栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

通过hive底层执行过程排查hsql执行问题

通过hive底层执行过程排查hsql执行问题

众所周知,hive是执行在Hadoop集群上的数据仓库工具,它会将数据映射成表格的方式,以类似sql的语句执行mapreduce。

那么,具体执行过程怎么转换成mapreduce任务的呢?

首先 我们要清楚hivesql的执行顺序:

  • 第一步:执行FROM
  • 第二步:WHERe条件过滤,and 比or的优先级高
  • 第三步:GROUP BY分组
  • 第四步:执行SELECT投影列
  • 第五步:HAVINg条件过滤
  • 第六步:执行ORDER BY 排序

然后,比较重要的一点就是怎么运行的了,简单来说产生需要聚合、shuffle这一类的计算就会产生reduce,比如groupBy、partitionby ,join之类的,如果产生了reduce计算并且这些计算在select计算之前,select计算也会在reduce阶段进行。

此时如果产生了数据倾斜,而且select时使用了一些函数,就很有可能因为执行时间过长而失败。我最近用udf函数求地址相似度的时候就遇到这种问题,因为去掉这个函数之后数据倾斜并不明显,我就认为是函数的问题,浪费了不少精力

如果sql稍微复杂,可以借助explain+sql查看执行过程,就可以更加明确导致sql失败的原因啦~

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/688219.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号