ITPub博客

首页 > IT职业 > IT职场 > java -jar运行MR程序

java -jar运行MR程序

IT职场 作者:sprest 时间:2021-09-09 10:07:09 0 删除 编辑

1、一般的做法都是使用hadoop jar的形式提交任务。
vi bin/hadoop.jar

图片描述

image.png

其实内部调用了RunJar.java 用来读取hadoop环境参数,配置文件等。

2、现在想用单纯的java -jar来提交MR任务到yarn也是可行的

3、打个胖包。


图片描述

image.png

4、java -jar wc-fat.jar /day08-wc/input/wc.txt /day08-wc/output3
报错:

图片描述

image.png


胖包里面没有配置文件。
把输入输出文件当成local模式的了。

5、下载集群的配置文件到本地Eclipse src目录下。

图片描述

image.png


6、指定本程序的jar包所在的本地路径

//job.setJarByClass(WordcountDriver.class);
   job.setJar("/home/hadoop/lib/wc-fat.jar");

再次执行即可:
java -jar wc-fat.jar /day08-wc/input/wc.txt /day08-wc/output4



作者:sparkle123
链接:https://www.jianshu.com/p/990fdcc61942



来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/3088/viewspace-2816751/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-08-13

  • 博文量
    101
  • 访问量
    821