当前位置: 代码迷 >> 综合 >> Hadoop运行原理之Spill, Shuffle
  详细解决方案

Hadoop运行原理之Spill, Shuffle

热度:44   发布时间:2023-12-09 22:49:31.0

Shuffle阶段又可以分为Map端的shuffle和Reduce端的Shuffle。

一、Map端的shuffle

  Map端会处理输入数据并产生中间结果,这个中间结果会写到本地磁盘(转者注: 这个中间结果可以压缩, 以节省IO),而不是HDFS。每个Map的输出会先写到内存缓冲区中,当写入的数据达到设定的阈值时,系统将会启动一个线程将缓冲区的数据写到磁盘,这个过程叫做spill

  在spill写入之前,会先进行二次排序,首先根据数据所属的partition进行排序,然后每个partition中的数据再按key来排序。partition的目是将记录划分到不同的Reducer上去(转者注:Partitioner只有一个, 但是partition的数目等于reducer的数目),以期望能够达到负载均衡,以后的Reducer就会根据partition来读取自己对应的数据。接着运行combiner(如果设置了的话),combiner的本质也是一个Reducer,其目的是对将要写入到磁盘上的文件先进行一次处理,这样,写入到磁盘的数据量就会减少。最后将数据写到本地磁盘产生spill文件(spill文件保存在{mapred.local.dir}指定的目录中,Map任务结束后就会被删除)。

  最后,每个Map任务可能产生多个spill文件,在每个Map任务完成前,会通过多路归并算法将这些spill文件归并成一个文件。至此,Map的shuffle过程就结束了。

二、Reduce端的shuffle

  Reduce端的shuffle主要包括三个阶段,copy、sort(merge)和reduce。(转者注:有的时候map没有到达100%, 就看到reducer的百分比开始的原因就是这个进度包括copy的过程, 这时并没有真的开始sort)

  首先要将Map端产生的输出文件拷贝到Reduce端,但每个Reducer如何知道自己应该处理哪些数据呢?因为Map端进行partition的时候,实际上就相当于指定了每个Reducer要处理的数据(partition就对应了Reducer),所以Reducer在拷贝数据的时候只需拷贝与自己对应的partition中的数据即可。每个Reducer会处理一个或者多个partition,但需要先将自己对应的partition中的数据从每个Map的输出结果中拷贝过来。

  接下来就是sort阶段,也成为merge阶段,因为这个阶段的主要工作是执行了归并排序。从Map端拷贝到Reduce端的数据都是有序的,所以很适合归并排序。最终在Reduce端生成一个较大的文件作为Reduce的输入。

  最后就是Reduce过程了,在这个过程中产生了最终的输出结果,并将其写到HDFS上。

本文基于hadoop1.2.1

如有错误,还请指正

参考文章:《Hadoop权威指南》 Tom White

转载请注明出处:hadoop运行原理之shuffle - 有无之中 - 博客园icon-default.png?t=L892http://www.cnblogs.com/gwgyk/p/3997849.html