因为个人太懒,所以很多配图没有上传,完整的部署安装教程另外备份了。这里记录一下防止文档丢了
Hadoop1.0.4+Hbase0.94.2+Hive0.9.0
分布式部署安装
目录
|
版本控制信息 |
|||
|
版本 |
日期 |
拟稿和修改 |
说明 |
|
1.0 |
2012-11-27 |
Yoan.Liang |
报文标准初稿(内部版本:1000) |
1.1
1.2
修改如下:
NETWORKING=yes
NETWORKING_IPV6=no
HOSTNAME=Master.2.Hadoop
1.3
1.4
# Do not remove the following line, or various programs
# that require network functionality will fail.
127.0.0.1
192.168.29.192
192.168.29.191
192.168.29.193
::1
1.5
1.6
2.1
下载路径:
http://mirror.bjtu.edu.cn/apache/hadoop/common/hadoop-1.0.4/hadoop-1.0.4.tar.gz
2.2
解压完成后目录下出现hadoop文件夹,进入hadoop并在目录下创建tmp文件夹,该文件夹用于Hadoop的临时文件存储。
2.3
新增以下内容:(具体的内容根据你的安装路径修改,这步只是为了方便使用)
2.4
# set java environment
export JAVA_HOME=/opt/jdk1.7.0
(红色字部分是当前服务器的JDK路径)
如果当前ssh端口不是默认的22,则需要解除HADOOP_SSH_OPTS的注释并修改端口
例子如下:
修改配置文件core-site.xml在文件中添加hadoop.tmp.dir, fs.default.name项
例子
<!-- Put site-specific property overrides in this file. -->
hadoop.tmp.dir是配置hadoop中临时文件的存储位置,这里指向了刚刚创建的tmp文件夹。
而fs.default.name则是配置hdfs的路径,这里默认是NameNode的9000端口。
修改配置文件hdfs-site.xml,在文件中添加dfs.replication项。该项是配置数据备份数。如DataNode比较多则可以多配几个,要注意的是不能配置多于DataNode个数的值
例子:
<!-- Put site-specific property overrides in this file. -->
修改配置文件mapred-site.xml,在文件中添加mapred.job.tracker项 该项是配置jobTracker的主机。如按照默认则是NameNode的9001端口
例子
<!-- Put site-specific property overrides in this file. -->
(例子中红色部分是需要修改的jobTracker主机IP)
修改配置文件masters,这里指定的是NameNode主机。
修改完成后将hadoop文件夹复制到其他机器DataNode服务器上,并修改JDK路径为对应服务器的JDK安装路径。
NameNode服务器修改slaves文件,在文件中配置所有DataNode机器。
进入NameNode服务中hadoop文件夹中的bin目录,执行start-all.sh。hadoop项目启动。
3
Hbase安装
3.1
进入opt目录下用命令wget
下载Hbase0.94.2,下载地址为
http://mirror.bit.edu.cn/apache/hbase/hbase-0.94.2/hbase-0.94.2.tar.gz
3.2
进入解压后的hbase目录下的conf文件夹,修改hbase-site.xml文件。
在文件中添加hbase.rootdir、hbase.zookeeper.quorum、hbase.zookeeper.property.dataDir、hbase.cluster.distributed、hbase.master、dfs.support.append六项,修改完成后将文件复制到每台服务器的hadoop项目下的conf文件夹内。
例子:
<!--
-->
(注意:hbase.zookeeper.quorum项上配置全部的hbase服务器,不能用IP只能用hosts上配置的服务器名称,以逗号分隔)
3.3
在文件最尾添加
export JAVA_HOME=/opt/jdk1.7.0
export HBASE_SSH_OPTS=" "
export HBASE_PID_DIR=/opt/hbase/pids
export HBASE_MANAGES_ZK=true
3.4
Master.Hadoop
Slave.1.Hadoop
Slave.2.Hadoop
Slave.3.Hadoop
这里添加的是HBase的region服务器
3.5
3.6
4.1
4.2
4.3
下载地址:http://mirror.bit.edu.cn/apache/hive/hive-0.9.0/hive-0.9.0.tar.gz
注意:hive项目只需要安装在NameNode服务器上
4.4
4.5
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/389495/viewspace-1119528/ ,如需转载,请注明出处,否则将追究法律责任。