栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Hudi错题本

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Hudi错题本

一,Spark读Hudi读不出数据

Hudi路径下有数据,但是用spark读不出来


原因是Hudi文件没有压缩,只能读RT,不能读RO,修改读方式:

.option(DataSourceReadOptions.QUERY_TYPE_OPT_KEY(),DataSourceReadOptions.QUERY_TYPE_INCREMENTAL_OPT_VAL())
.option(DataSourceReadOptions.BEGIN_INSTANTTIME_OPT_KEY(),"20211123215558")

此时读取数据报错:

Caused by: java.lang.ClassNotFoundException: org.apache.hudi.common.model.EventTimeAvroPayload

原因是Hudi版本不对,本地版本是0.9,同事写入Hudi时使用的是0.10,换jar包即可

二,spark读hudi时报错 org.apache.hadoop.hive.ql.io.parquet.MapredParquetInputFormat

原因是少包,添加依赖即可:

 
            org.apache.spark
            spark-hive_2.12
            ${spark.version}
        
三,spark读取Hudi报错Caused by: java.lang.ClassNotFoundException: org.apache.spark.sql.catalyst.StructFilters
Caused by: java.lang.ClassNotFoundException: org.apache.spark.sql.catalyst.StructFilters
	at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
	at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:357)

spark版本不对,本地用3.0.2,实际上服务器用的是3.1.2,换成3.1.2即解决问题

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/605859.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号