栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 数据挖掘与分析

Spark Structured Streaming union数据丢失问题解决

Spark Structured Streaming union数据丢失问题解决

问题描述:

        使用Spark Structured Streaming把多个流union all一起处理,发现处理后的结果远远小于4个流数据的总和.

解决方法:

通过查看Spark UI发现运行时只有一个流并没有多个流Union。排查代码发现是将4个流注册为临时表,然后获取4个流的公共字段的dataset对象后再调用dataset.union方法将4个dataset union到一起:

dataset1.createOrReplaceTempView('t_a');

dataset2.createOrReplaceTempView('t_b');

dataset3.createOrReplaceTempView('t_c');

dataset4.createOrReplaceTempView('t_d');

datasetUnion1 = spark.sql("select id,name from t_a");

datasetUnion2 = spark.sql("select id,name from t_b");

datasetUnion3 = spark.sql("select id,name from t_c");

datasetUnion4 = spark.sql("select id,name from t_d");

datasetUnion1.unionAll(datasetUnion2).unionAll(datasetUnion3).unionAll(datasetUnion4)

伪代码只为描述代码逻辑与实际代码不同

改成将4个流注册为临时表后使用sql union而不是用dataset:

dataset1.createOrReplaceTempView('t_a');

dataset2.createOrReplaceTempView('t_b');

dataset3.createOrReplaceTempView('t_c');

dataset4.createOrReplaceTempView('t_d');

spark.sql("select id,name from t_a union all select id,name from t_b union all select id,name from t_c union all select id, name t_d");

....

问题解决.

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/279118.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号