Hadoop
//安装SSH
[root@localhost
//生成密钥
|
|
[root@localhost
(可以一路回车)
生成下面两个文件:
/root/.ssh/id_rsa
/root/.ssh/id_rsa.pub
[root@localhost
[root@localhost
//配置JDK环境变量
[root@localhost
export
export
//使配置生效
[root@localhost
//安装Hadoop
[root@localhost
//查看安装后的Hadoop版本号信息
[root@localhost
修改Hadoop配置文件(/etc/hadoop)
[root@localhost
export
[root@localhost
[root@localhost
[root@localhost
//格式化文件系统
[root@localhost
//启动Hadoop相关的所有服务
[root@localhost
(如果没有执行权限,需要将/usr/sbin目录下的相关sh文件设置执行权限)
说明:
start-all.sh
stop-all.sh
start-dfs.sh
stop-dfs.sh
start-mapred.sh
stop-mapred.sh
[root@localhost
5131
5242
5361
5583
5463
6714
【注:以上服务进程必须要启动,有时候碰到namenode没有启动的情况,需要stop-all.sh,然后重新格式化文件系统
hadoop
namenode
(访问
[root@localhost
跑wordcount
1、准备需要进行wordcount的文件
sudo gedit /tmp/test.txt
(打开后随便输入一些内容,如"mu ha ha ni da ye da ye da",然后保存退出)
2、将准备的测试文件上传到dfs文件系统中的firstTest目录下
Hadoop dfs -copyFromLocal /tmp/test.txt firstTest
(注:如dfs中不包含firstTest目录的话就会自动创建一个,关于查看dfs文件系统中已有目录的指令为"Hadoop dfs -ls")
3、执行wordcount
hadoop
jar
(注:此语句意为“对firstTest下的所有文件执行wordcount,将统计结果输出到result文件夹中”,若result文件夹不存在则会自动创建一个)
4、查看结果
Hadoop dfs -cat result/part-r-00000
(注:结果文件默认是输出到一个名为“part-r-*****”的文件中的,可用指令“Hadoop dfs -ls result”查看result目录下包含哪些文件)
至此单节点环境搭建完成!
Hadoop环境搭建——集群篇 见 http://www.linuxidc.com/Linux/2012-03/56692.htm
--------------------------分割线--------------------------
执行bin/Hadoop dfs -put urls urls这个的时候报错~Bad connection
to FS. command aborted.
解决:
System.err.println("Version
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/21971328/viewspace-1120032/ ,如需转载,请注明出处,否则将追究法律责任。