ITPub博客

首页 > 大数据 > Hadoop > Linux下安装Hadoop教程

Linux下安装Hadoop教程

Hadoop 作者:h1974423340 时间:2016-04-05 23:23:55 0 删除 编辑

目的:此教程旨在引导未接触Hadoop的新手入门只用,高手请飘过。

环境: CentOS release 5.6 (Final)
Linux Search 2.6.18-238.el5xen #1 SMP Thu Jan 13 16:41:45 EST 2011 x86_64 x86_64 x86_64 GNU/Linux

http://labs.mop.com/apache-mirror/hadoop/common/hadoop-2.0.2-alpha/
hadoop-2.0.2-alpha

java version "1.7.0"

Java(TM) SE Runtime Environment (build 1.7.0-b147)

Java HotSpot(TM) 64-Bit Server VM (build 21.0-b17, mixed mode)


初学者可以选择三台实体机子做实验,一台做NameNode,JobTracker,另外两台做DataNode,TaskTracker。
本教程里就用的三台机子做演示。
station1 10.0.1.188 NameNode
station2 10.0.1.187 DataNode
station3 10.0.1.189 DataNode
1、 CentOS  的安装就不用演示了,装好后默认是启动sshd服务的。
不确定的话可以手工查一下
[root@station1 ~]# service sshd status
如果没有启动,可以手工启动
[root@station1 ~]# service sshd start
2、建立ssh无密码登录

添加用户 hadoop

 


  # adduser hadoop

  # passwd hadoop (键入hadoop的口令)


 

     ssh-keygen 

      ssh-copy-id -i ~/.ssh/id_rsa.pub pongo@10.0.1.188

      ssh pongo@10.0.1.188


在NameNode上
[cuijj@station1 ~]$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
会在~/.ssh/生成两个文件:id_dsa和id_dsa.pub。这两个是成对出现的。
把id_dsa.pub文件追加到DataNode上的authorized_keys(默认是没有这个文件的)内。
[cuijj@station1 ~]$ scp id_dsa.pub
登录到192.168.128.22上(另一台DataNode一样)
[cuijj@station1 ~]$ cat id_dsa.pub >> ~/.ssh/authorized_keys
3、关闭防火墙
[root@station1 ~]# service iptables stop
4、安装jdk1.6(确保几台机子的java环境一样)
到官网http://java.sun.com下载jdk-6u18-linux-i586.bin,下载后,直接安装。本教程的安装路径为/home/cuijj/jdk1.6.0_18。安装后添加如下语句到/ect/profile中:
export JAVA_HOME=/home/cuijj/jdk1.6.0_18
export JRE_HOME=/home/cuijj/jdk1.6.0_18/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
5、安装hadoop
到官网下载hadoop-0.20.2.tar.gz
[cuijj@station1 ~]$ tar xzvf hadoop-0.20.2.tar.gz
把Hadoop的安装路径添加到/etc/profile中
export HADOOP_HOME=/home/cuijj/hadoop-0.20.2
export PATH=$HADOOP_HOME/bin:$PATH
为了让/etc/profile生效,source一下
[cuijj@station1 ~]$ source /etc/profile
6、配置hadoop
hadoop的配置文件在/conf目录下
1)配置Java环境
[cuijj@station1 ~]$ vim hadoop-0.20.2/conf/hadoop-env.sh
export JAVA_HOME=/home/cuijj/jdk1.6.0_18
2)配置conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml文件
[cuijj@station1 ~]$ vim hadoop-0.20.2/conf/core-site.xml
Linux下安装Hadoop教程

[cuijj@station1 ~]$ vim hadoop-0.20.2/conf/mapred-site.xml
Linux下安装Hadoop教程

[cuijj@station1 ~]$ vim hadoop-0.20.2/conf/hdfs-site.xml
Linux下安装Hadoop教程

3)将NameNode上拷贝完整的hadoop到DataNode上
4)配置NameNode上的conf/masters和conf/slaves
masters:
192.168.128.11
slaves:
192.168.128.22
192.168.128.33
7、运行hadoop
1)格式化文件系统
[cuijj@station1 hadoop-0.20.2]$ hadoop namenode -format
2)启动Hadoop
[cuijj@station1 hadoop-0.20.2]$ bin/start-all.sh
3)用jps命令查看进程,NameNode上的结果如下:
Linux下安装Hadoop教程

4)查看集群状态
[cuijj@station1 hadoop-0.20.2]$ hadoop dfsadmin -report
5)用hadoop的web方式查看
[cuijj@station1 hadoop-0.20.2]$ links http://192.168.128.11:50070
Linux下安装Hadoop教程

8、运行wordcount.java程序
1)先在本地磁盘建立两个文件file01和file02
[cuijj@station1 ~]$ echo "Hello cuijj bye cuijj" > file01
[cuijj@station1 ~]$ echo "Hello Hadoop Goodbye Hadoop" > file02

2)在hdfs中建立一个input目录
[cuijj@station1 ~]$ hadoop dfs -mkdir input
3)将file01和file02拷贝到hdfs的input目录下
[cuijj@station1 ~]$ hadoop dfs -copyFromLocal /home/cuijj/file0* input
4)查看hdfs中有没有input目录
[cuijj@station1 ~]$ hadoop dfs -ls
Linux下安装Hadoop教程

5)查看input目录下有没有复制成功file01和file02
Linux下安装Hadoop教程

6)执行wordcount(确保hdfs上没有output目录)
[cuijj@station1 hadoop-0.20.2]$ hadoop jar hadoop-0.20.2-examples.jar wordcount input output
7)运行完成,查看结果
Linux下安装Hadoop教程
<!-- 正文结束 -->

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/30152468/viewspace-2075841/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2015-03-05

最新文章