ITPub博客

首页 > 大数据 > Hadoop > Hadoop ReduceTask工作机制

Hadoop ReduceTask工作机制

Hadoop 作者:元亨利贞 时间:2023-10-02 14:09:12 0 删除 编辑

工作机制

  1. Copy阶段:ReduceTask从各个MapTask远程拷贝数据,超过阈值的数据写入磁盘,其余放入内存。
  2. Sort阶段:ReduceTask在拷贝数据时启动后台线程合并内存和磁盘文件,防止过多使用。为聚集key相同的数据,ReduceTask对所有数据进行一次归并排序。
  3. Reduce阶段:reduce()函数将计算结果写入HDFS。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70024433/viewspace-2986835/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    383
  • 访问量
    247951