ReduceTask工作机制

ReduceTask工作机制图示

ReduceTask工作机制流程

1. Copy阶段

ReduceTask从各个MapTask上远程拷贝一片数据&＃xff0c;并针对某一片数据&＃xff0c;如果其大小超过一定阈值&＃xff0c;则写到磁盘上&＃xff0c;否则直接放到内存中。

2. Merge阶段

在远程拷贝数据的同时&＃xff0c;ReduceTask启动了两个后台线程对内存和磁盘上的文件进行合并&＃xff0c;以防止内存使用过多或磁盘上文件过多。

3. Sort阶段

按照MapReduce语义&＃xff0c;用户编写reduce()函数输入数据是按key进行聚集的一组数据。为了将key相同的数据聚在一起&＃xff0c;Hadoop采用了基于排序的策略。由于各个MapTask已经实现对自己的处理结果进行了局部排序&＃xff0c;因此&＃xff0c;ReduceTask只需对所有数据进行一次归并排序即可。

4. Reduce阶段

reduce()函数将计算结果写到HDFS上。

注意事项

(1) ReduceTask&＃61;0&＃xff0c;表示没有Reduce阶段&＃xff0c;输出文件个数和Map个数一致。

(2) ReduceTask默认值就是1&＃xff0c;所以输出文件个数为一个。

(3&＃xff09;如果数据分布不均匀&＃xff0c;就有可能在Reduce阶段产生数据倾斜

(4) ReduceTask数量并不是任意设置&＃xff0c;还要考虑业务逻辑需求&＃xff0c;有些情况下&＃xff0c;需要计算全局汇总结果&＃xff0c;就只能有1个ReduceTask。

(5&＃xff09;具体多少个ReduceTask&＃xff0c;需要根据集群性能而定。

(6&＃xff09;如果分区数不是1&＃xff0c;但是ReduceTask为1&＃xff0c;是否执行分区过程。
答案是:不执行分区过程。因为在MapTask的源码中&＃xff0c;执行分区的前提是先判断ReduceNum个数是否大于1&＃xff0c;不大于1肯定不执行。