首页 > 大数据 > Hadoop > 在RACE虚拟机上安装单节点Hadoop
RACE(Remote Access Computer Environment)是SAS公司内使用的虚拟机继承系统。通过RACE系统申请虚拟机,使用自己或别的项目组、同事创建的RACE image安装操作系统和应用程序,省心省力。
申请一台RACE虚拟机,使用RACE
启动后,使用下列脚本替换主机信息
/nfs/cardio/vol/vol1/sasinside/setup/changehost94.sh
如果RACE
yuminstall java-1.6.0-openjdk java-1.6.0-openjdk-devel
幸好在/sasjdk/jdk发现很多版本的Java
/usr/lib/jvm/java-openjdk/
原系统中没有安装hadoop,但是有hadoop帐号。我没有找到密码,只好重做一把:
userdelhadoop
useraddhadoop
passwdhadoop
因为Hadoop
#mkdir /opt/hadoop
#cd /opt/hadoop/
#wget http://download.nextag.com/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz
#tar -xzf hadoop-1.2.1.tar.gz
#chown -R hadoop /opt/hadoop
#cd /opt/hadoop/hadoop-1.2.1/
下列为Hadoop的单节点伪分布模式配置。
conf/core-site.xml:
fs.default.name
hdfs://localhost:9000/
conf/hdfs-site.xml:
dfs.replication
1
conf/mapred-site.xml:
mapred.job.tracker
localhost:9001
conf/hadoop-env.sh:
exportJAVA_HOME=/usr/lib/jvm/java-openjdk/
exportHADOOP_OPTS=-Djava.net.preferIPv4Stack=true
Hadoop集群中节点都是通过ssh相互联系,进行数据传输,我们不可能为每次连接输入访问密码(常规ssh需要访问密码),所以我们需要进行相应配置,使节点之间的ssh连接不需要密码。
由于部署单节点的时候,当前节点既是namenode又是datanode,所以此时需要生成无密码登录的ssh。
首先检查是否可以无密码登录本机ssh
$ssh localhost
如果不能无密码登录本机ssh,执行下列命令
$ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
查看当前Shell,发现是Korn
$echo $0
-ksh
将JAVA_HOME和Hadoop信息加入环境变量:
echo'export JAVA_HOME=/usr/lib/jvm/java-openjdk/' >> ~/.profile
echo'export PATH=$JAVA_HOME/bin:/opt/hadoop/hadoop-1.2.1/bin:/opt/hadoop/hadoop-1.2.1/sbin:$PATH' >> ~/.profile
无须重启,使环境变量生效:
source~/.profile
#su - hadoop
$cd /opt/hadoop/hadoop-1.2.1
$bin/hadoop namenode -format
此时会初始化好hadoop的文件系统,在/tmp/hadoop-hadoop/dfs发现data、name和namesecondary三个目录。
$start-all.sh
使用jps命令检查是否所有服务正常启动。
$jps
29784SecondaryNameNode
29878JobTracker
29993TaskTracker
23699Jps
29658DataNode
29549NameNode
服务的Web访问链接
http://localhost:50030/用于Jobtracker
http://localhost:50070/用于Namenode
http://localhost:50060/用于Tasktracker
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/21508154/viewspace-1120042/ ,如需转载,请注明出处,否则将追究法律责任。