首页 > 大数据 > Hadoop > Hadoop 集群安装配置总结
官方地址:(http://hadoop.apache.org/common/docs/r0.19.2/cn/cluster_setup.html)
确保在你集群中的每个节点上都安装了所有必需软件:sun-JDK
JavaTM1.5.x,必须安装,建议选择Sun公司发行的Java版本。
ssh
| 机器名 | |
作用 |
| Node1 | 10.64.56.76 | NameNode、JobTracker |
| Node2 | 10.64.56.77 | DataNode、TaskTracker |
| Node3 | 10.64.56.78 | DataNode、TaskTracker |
$
useradd hadoop
$ cd
在所有的机器上都建立相同的目录,也可以就建立相同的用户,最好是以该用户的home路径来做hadoop的安装路径。
例如在所有的机器上的安装路径都是:/home/hadoop/hadoop-0.20.203,这个不需要mkdir,在/home/hadoop/下解压hadoop包的时候,会自动生成)
(当然可以安装/usr/local/目录下,例如/usr/local/hadoop-0.20.203/
)
(最好不要使用root安装,因为不推荐各个机器之间使用root访问 )
1)
2)
在Hadoop启动以后,Namenode是通过SSH(Secure
Shell)来启动和停止各个datanode上的各种守护进程的,这就须要在节点之间执行指令的时候是不须要输入密码的形式,故我们须要配置SSH运用无密码公钥认证的形式。
以本文中的三台机器为例,现在node1是主节点,他须要连接node2和node3。须要确定每台机器上都安装了ssh,并且datanode机器上sshd服务已经启动。
( 说明:hadoop@hadoop~]$ssh-keygen
这个命令将为hadoop上的用户hadoop生成其密钥对,询问其保存路径时直接回车采用默认路径,当提示要为生成的密钥输入passphrase的时候,直接回车,也就是将其设定为空密码。生成的密钥对id_rsa,id_rsa.pub,默认存储在/home/hadoop/.ssh目录下然后将id_rsa.pub的内容复制到每个机器(也包括本机)的/home/dbrg/.ssh/authorized_keys文件中,如果机器上已经有authorized_keys这个文件了,就在文件末尾加上id_rsa.pub中的内容,如果没有authorized_keys这个文件,直接复制过去就行.)
3) 首先设置namenode的ssh为无需密码的、自动登录。
切换到hadoop用户( 保证用户hadoop可以无需密码登录,因为我们后面安装的hadoop属主是hadoop用户。)
$ su hadoop
cd /home/hadoop
$
ssh-keygen -t rsa
$ cd .ssh
之后ls 查看文件
cp
id_rsa.pub
测试:
$ssh localhost
或者:
$ ssh node1
第一次ssh会有提示信息:
The authenticity of host ‘node1 (10.64.56.76)’ can’t be
established.
RSA key fingerprint is
03:e0:30:cb:6e:13:a8:70:c9:7e:cf:ff:33:2a:67:30.
Are you sure you want to continue connecting (yes/no)?
输入 yes 来继续。这会把该服务器添加到你的已知主机的列表中
发现链接成功,并且无需密码。
4 )
为了保证node1可以无需密码自动登录到node2和node3,先在node2和node3上执行
$ su hadoop
cd /home/hadoop
$ ssh-keygen -t rsa
[hadoop@hadoop .ssh]$ scp
authorized_keys
[hadoop@hadoop .ssh]$ scp
authorized_keys
[hadoop@hadoop .ssh]$chmod 644 authorized_keys
#切换为hadoop用户
su hadoop
wgethttp://apache.mirrors.tds.net//hadoop/common/hadoop-0.20.203.0/hadoop-0.20.203.0rc1.tar.gz
下载安装包后,直接解压安装即可:
$ tar
-zxvfhadoop-0.20.203.0rc1.tar.gz
6)配置conf/hadoop-env.sh文件
export JAVA_HOME=/usr/lib/jvm/java-6-sun/
这里修改为你的jdk的安装位置。
测试hadoop安装:
Bin/hadoop jar
hadoop-0.20.2-examples.jarwordcount
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/22696288/viewspace-1120236/ ,如需转载,请注明出处,否则将追究法律责任。