栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

HIVE如何优化

HIVE如何优化

a)MapJoin 如果不指定MapJoin或者不符合MapJoin的条件,那么Hive解析器会将Join操作转换成Common Join, 即:在Reduce阶段完成Join。容易发生数据倾斜。可以用MapJoin把小表全部加载到内存在map端进 行Join,避免Reducer处理。

b)行列过滤

列处理:在SELECT中,只拿需要的列,如果有,尽量使用分区过滤,少用SELECT *。

行处理:在分区剪裁中,当使用外关联时,如果将副表的过滤条件写在Where后面,那么就会先全表关 联,之后再过滤。

c)采用分桶技术

d)采用分区技术

e)合理设置Map数

1)通常情况下,作业会通过Input的目录产生一个或者多个Map任务。主要的决定因素有:

        Input的文件总个数,Input的文件大小,集群设置的文件块大小。

2)是不是map数越多越好?

        答案是否定的。如果一个任务有很多小文件(远远小于块大小128m),则每个小文件也会被当做一 个块,用一个Map任务来完成,而一个Map任务启动和初始化的时间远远大于逻辑处理的时间,就会造成很大 的资源浪费。而且,同时可执行的Map数是受限的。

3)是不是保证每个Map处理接近128m的文件块,就高枕无忧了?

        答案也是不一定。比如有一个127m的文件,正常会用一个Map去完成,但这个文件只有一个或者 两个小字段,却有几千万的记录,如果Map处理的逻辑比较复杂,用一个Map任务去做,肯定也比较耗时。 • 针对上面的问题2和3,我们需要采取两种方式来解决:即减少Map数和增加Map数;

f)小文件进行合并在Map执行前合并小文件,减少Map数:CombineHiveInputFormat具有对小文件进行合并的功能(系 统默认的格式)。HiveInputFormat没有对小文件合并功能。

g)合理设置Reduce数 • Reduce个数并不是越多越好

1)过多的启动和初始化Reduce也会消耗时间和资源;

2)另外,有多少个Reduce,就会有多少个输出文件,如果生成了很多个小文件,那么如果这些小文件 作为下一个任务的输入,则也会出现小文件过多的问题;在设置Reduce个数的时候也需要考虑这两个原则: 处理大数据量利用合适的Reduce数;使单个Reduce任务处理数据量大小要合适;

h)常用参数

// 输出合并小文件

SET hive.merge.mapfiles = true; -- 默认true,在map-only任务结束时合并小文件

SET hive.merge.mapredfiles = true; -- 默认false,在map-reduce任务结束时合并小文件

SET hive.merge.size.per.task = 268435456; -- 默认256M

SET hive.merge.smallfiles.avgsize = 16777216; -- 当输出文件的平均大小小于该值时,启动 一个独立的Map-Reduce任务进行文件Merge

(注:引自"面试真题",非原创,无链接)

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/747977.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号