近来不少网友和网站的客户在QQ上问我,hadoop是什么,我一时竟然难以回答。援引百度百科的解释如下:
Hadoop由 Apache Software Foundation 公司于 2005
年秋天作为Lucene的子项目Nutch的一部分正式引入。它受到最先由 Google Lab 开发的 Map/Reduce 和 Google File
System(GFS) 的启发。2006 年 3 月份,Map/Reduce 和 Nutch Distributed File
System (NDFS) 分别被纳入称为 Hadoop 的项目中。
Hadoop 是最受欢迎的在 Internet 上对搜索关键字进行内容分类的工具,但它也可以解决许多要求极大伸缩性的问题。例如,如果您要 grep 一个 10TB
的巨型文件,会出现什么情况?在传统的系统上,这将需要很长的时间。但是 Hadoop
在设计时就考虑到这些问题,采用并行执行机制,因此能大大提高效率。
名字起源
Hadoop这个名字不是一个缩写,它是一个虚构的名字。该项目的创建者,Doug
Cutting解释Hadoop的得名:“这个名字是我孩子给一个棕黄色的大象玩具命名的。我的命名标准就是简短,容易发音和拼写,没有太多的意义,并且不会被用于别处。小孩子恰恰是这方面的高手。”
现在在北风网的课程有三个,是相关知识和项目的结合,他们分别是《深入浅出Hadoop实战开发(HDFS实战图片、MapReduce、HBase实战微博、Hive应用)》,《Hadoop应用开发实战(flume应用开发、搜索引擎算法、Pipes、集群、PageRank算法)》, 《
Cloudera Hadoop 4系列实战课程(电商业日志流量分析项目)》。
其中对于初学者来说,第一个是比较容易接受的,也是在网站上受欢迎程度最高的一个课程,单月下载量高达3000+套,同时它设计的课程项目,比如微博之类的,也都是现在关注程度比较高的项目。
网友们如果对这套课程感兴趣的话,可以来的金山快盘下载,下载地址如下:
