首页 > 大数据 > Hadoop > 大数据开发join的运行原理_大数据培训
基本描述
Hive的join过程,即hive将sql的join转化为mapreduce来执行的过程。关键词主要有三个:执行计划、Shuffle join和map join。
因此回答本问题时,可以先回答hive是怎样执行sql的,再对join的过程进行说明。
当遇到让你结合例子来说明join过程的问题时, 根据总结选择性回答即可。
总结回答
1 简单解释hive解析sql到mr
ok,首先Hive会根据DQL类SQL语句生成一个MapReduce作业。具体是通过Driver将SQL提交到编译器进行语法分析、解析和优化,最后生成一个MapReduce的执行计划,再根据执行计划, 【关注尚硅谷,轻松学IT】生成一个MapReduce作业。
2 概况join的类型
接着hive的join主要可以分为Shuffle join和map join。两者的区别是:Shuffle join是在reduce端完成的join,map join是在map端完成的join。
3 shuffle join
MR的Shuffle join的过程分为map、shuffle和reduce:
4 map join
Hive 默认的是map join。map join的过程只有map,其中reduce阶段在map中完成:
文章来源于Diting
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70010293/viewspace-2857593/ ,如需转载,请注明出处,否则将追究法律责任。