ITPub博客

首页 > 大数据 > 可视化 > 在ubuntu中部署hadoop

在ubuntu中部署hadoop

可视化 作者:water100 时间:2013-04-18 15:39:07 0 删除 编辑
  (本文参考了前辈的资料有部分改动)

一.安装ubuntu

  我是下载的ubuntu12.04,我是在vm9.0上安装的ubuntu,注意在下面的安装前请确保虚拟机中的ubuntu系统是连上网的,关于vm连网问题请参考其他相关资料。

二. 在Ubuntu下创建hadoop用户组和用户;

1. 创建hadoop用户组;


sudo addgroup hadoop

如图:


2. 创建hadoop用户;


sudo adduser -ingroup hadoop hadoop

如图:


3. 给hadoop用户添加权限,打开/etc/sudoers文件;

sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。

在root   ALL=(ALL:ALL)   ALL下添加hadoop   ALL=(ALL:ALL)  ALL,



如图:


三. 在Ubuntu下安装JDK

使用如下命令执行即可:



(1)首先删除掉已经安装的openjdk

   $ sudo apt-get purge openjdk*

(2)$ sudo apt-add-repository ppa:flexiondotorg/java

(3)$ sudo apt-get update 一定要执行这个步骤啊,如果更新比较慢,在unbuntu软件中心更新源,操作方面是编辑--源,使用自动测试寻找最快的源,我开始是使用的这个,给我找 的一个源后来不稳定,我手工切换到科技大学的源(前面也是这个源稳定啊)

(4)$ sudo apt-get install sun-java6-jre sun-java6-jdk sun-java6-plugin

(5)配置JAVA环境变量:
 sudo gedit /etc/environment
在其中添加如下两行:

JAVA_HOME=/usr/lib/jvm/java-6-sun
CLASSPATH=.:/usr/lib/jvm/java-6-sun/lib(根据具体情况,不同版本的jdk安装目录不一样)

 (6)java -version查看不出错说明,成功。

我之前执行的是openjdk后来才切换的sun-java6,当然现在有7了。

四. 修改机器名 (这步骤可以省略)

每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

1. 打开/etc/hostname文件;


sudo gedit /etc/hostname

2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"dubin-ubuntu"。 重启系统后才会生效。

 

五. 安装ssh服务

这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。

安装openssh-server;


sudo apt-get install ssh openssh-server

这时假设您已经安装好了ssh,您就可以进行第六步了哦~

 

六、 建立ssh无密码登录本机

首先要转换成hadoop用户,执行以下命令:


su - hadoop

如图:


ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

1. 创建ssh-key,,这里我们采用rsa方式;


ssh-keygen -t rsa -P ""

如图:


(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)

2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的;



cd ~/.ssh
cat id_rsa.pub >> authorized_keys

如图:


(完成后就可以无密码登录本机了。)

3. 登录localhost;


ssh localhost

如图:

( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)

4. 执行退出命令;


exit

 

七. 安装hadoop

我们采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/),因为该版本比较稳定。最新的alpha版本已经很高,但是还是建议采用稳定的版本。我是在apache站点直接下载的。

1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下;


sudo cp hadoop-0.20.203.0rc1.tar.gz /usr/local/

2. 解压hadoop-0.20.203.tar.gz;



cd /usr/local
sudo tar -zxf hadoop-0.20.203.0rc1.tar.gz

3. 将解压出的文件夹改名为hadoop;


sudo mv hadoop-0.20.203.0 hadoop

4. 将该hadoop文件夹的属主用户设为hadoop,


sudo chown -R hadoop:hadoop hadoop

5. 打开hadoop/conf/hadoop-env.sh文件;


sudo gedit hadoop/conf/hadoop-env.sh

6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径);


export JAVA_HOME=/usr/lib/jvm/java-6-openjdk

7. 打开conf/core-site.xml文件;


sudo gedit hadoop/conf/core-site.xml

编辑如下:property后面需要手工敲

1
2
3
4
5
6
7
8
9
10
11
xml version="1.0"?>
xml-stylesheet type="text/xsl" href="configuration.xsl"?>
                                                                                                               
<!-- Put site-specific property overrides in this file. -->
                                                                                                               
<configuration>
<property 
  <name>fs.default.namename 
  <value>hdfs://localhost:9000value  
 property 
configuration>

8. 打开conf/mapred-site.xml文件;


sudo gedit hadoop/conf/mapred-site.xml

编辑如下property后面需要手工敲:

1
2
3
4
5
6
7
8
9
10
11
xml version="1.0"?>
xml-stylesheet type="text/xsl" href="configuration.xsl"?>
                                                                                                            
<!-- Put site-specific property overrides in this file. -->
                                                                                                            
    <configuration 
     <property  
      <name>mapred.job.trackername 
      <value>localhost:9001value  
     property 
    configuration>

9. 打开conf/hdfs-site.xml文件;


sudo gedit hadoop/conf/hdfs-site.xml

编辑如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
<configuration>
<property>
<name>dfs.name.dirname>
<value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2value>
property>
<property>
<name>dfs.data.dirname>
<value>/usr/local/hadoop/data1,/usr/local/hadoop/data2value>
property>
<property>
<name>dfs.replicationname>
<value>2value>
property>
configuration>

10. 打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写 localhost Ok了。


sudo gedit hadoop/conf/masters

11. 打开conf/slaves文件,添加作为slave的主机名,一行一个。作为单机版,这里也只需填写 localhost就Ok了。


sudo gedit hadoop/conf/slaves
 
10.11我自己没敲,默认就是localhost,千万别修改为127.0.0.1 localhost虽然正式的多台机器是这样的写法,但是单台机器不需要前面的ip地址,否则会报错

 

八. 在单机上运行hadoop

1. 进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,



cd /usr/local/hadoop/
bin/hadoop namenode -format

2. 当你看到下图时,就说明你的hdfs文件系统格式化成功了。


3. 启动bin/start-all.sh


bin/start-all.sh

4. 检测hadoop是否启动成功


jps

如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!

如下图:

然后可以通过firefox浏览器查看,使用http://localhost:50030/

对,你没有看错不是我们配置的core-site的9000的端口,也不是9001的端口,是50030,我也不知道为什么,有谁知道一下。如果看到下面激动人心的画面,就说明你成功了。

 

<!-- 正文结束 -->

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/22475329/viewspace-1119512/,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
下一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2009-09-04