Hadoop-MapReduce 调优(生产经验)

• Hadoop-MapReduce 生产经验
• • 1 MapReduce 跑的慢的原因
  • • 1.1 计算机性能
    • 1.2 I/O 操作优化
  • 2 MapReduce 常用调优参数
  • • 2.1 优化1
    • 2.1 优化2
  • 3 MapReduce 数据倾斜问题
  • • 3.1 常见现象
    • 3.2 减少数据倾斜的方法

CPU、内存、磁盘、网络

1. 数据倾斜
2. Map 运行时间太长，导致 Reduce 等待过久
3. 小文件过多

1. 数据频率倾斜——某一个区域的数据量要远远大于其他区域。
2. 数据大小倾斜——部分记录的大小远远大于平均值。

1. 首先检查是否空值过多造成的数据倾斜
   生产环境，可以直接过滤掉空值；如果想保留空值，就自定义分区，将空值加随机数打散。最后再二次聚合。
2. 能在 map 阶段提前处理，最好先在 Map 阶段处理。如：Combiner、MapJoin
3. 设置多个 reduce 个数