栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

查询Hive表时,Dataframe NumberFormatException上的Spark 2.2 Thrift服务器错误

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

查询Hive表时,Dataframe NumberFormatException上的Spark 2.2 Thrift服务器错误

即使您正在创建具有特定数据类型的配置单元表,插入时表中的基础数据也将以字符串格式存储。

因此,当spark尝试读取数据时,它将使用metastore查找数据类型。它在配置单元元存储中以int形式出现,在文件中以字符串形式出现,并引发强制转换异常。

解决方案

将表创建为字符串,并从spark读取数据即可。

create table test1 (id String, desc String);

如果要保留数据类型,请指定创建表的文件格式(例如orc或parquet)之一,然后将其插入。您可以无例外地从Spark读取文件

 create table test1 (id int, desc varchar(40) STORED AS ORC);

现在的问题是为什么蜂巢能够阅读它? 蜂巢具有良好的演员选择,而火花却没有。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/646058.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号