自动打包机原理,凸透镜成像原理
3.1.2 主要流程:
Shuffle缓存流程:
shuffle是MR处理流程中的一个过程,它的每一个处理步骤是分散在各个map task和reduce task节点上完成的,整体来看,分为3个操作:
分区partitionSort根据key排序Combiner进行局部value的合并3.1.3 详细流程 maptask收集我们的map()方法输出的kv对,放到内存缓冲区中从内存缓冲区不断溢出本地磁盘文件,可能会溢出多个文件多个溢出文件会被合并成大的溢出文件在溢出过程中,及合并的过程中,都要调用partitoner进行分组和针对key进行排序reducetask根据自己的分区号,去各个maptask机器上取相应的结果分区数据reducetask会取到同一个分区的来自不同maptask的结果文件,reducetask会将这些文件再进行合并(归并排序)合并成大文件后,shuffle的过程也就结束了,后面进入reducetask的逻辑运算过程(从文件中取出一个一个的键值对group,调用用户自定义的reduce()方法)
Shuffle中的缓冲区大小会影响到mapreduce程序的执行效率,原则上说,缓冲区越大,磁盘io的次数越少,执行速度就越快
缓冲区的大小可以通过参数调整, 参数:io.sort.mb 默认100M
来自网上一份大神的详细流程示意图