由于公司提供的hadoop集群配置过低,近来在运行mr过程中出现java heap
space问题,经网上查看,测试验证可以通过下述途径进行解决。
1)修改conf/hadoop-env.sh中的export
HADOOP_HEAPSIZE参数,默认为1000,可根据实际namenode和datanode的配置进行增大。
2)在mapred-site.xml中加入配置内容:
mapred.child.java.opts
-Xmx1024m
执行这样的操作后,重启hadoop集群,通过查看java命令来check
jvm的使用情况。
<!-- 正文结束 -->
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/22318276/viewspace-1119853/
,如需转载,请注明出处,否则将追究法律责任。