ITPub博客

首页 > 大数据 > Hadoop > hadoop的作用

hadoop的作用

Hadoop 作者:footypanther 时间:2013-10-08 17:30:00 0 删除 编辑

1.map和reduce的代码抛出异常:这种情况下,子任务JVM会在退出之前向其父TaskTracker发送错误报告,错误报告最后被计入任务日志,.TaskTracker会将此次task
attempt标记为failed,释放一个任务槽来运行另外一个任务.2.JVM
Bug导致jvm退出:此种情况TaskTracker会注意到进程已经退出,并将此次尝试标记为failed.任务失败的超时时间通常为10分钟.如果超时时间设定为0则将永远不会超时,挂起的任务槽永远不会被释放,最终降低整个集群的效率JobTracker知道一个任务执行失败后,会重新调度该任务的执行,.JobTracker会避免重新调度失败过的TaskTracker的上的任务槽.如果一个任务失败的次数超过4次,整个作业都会失败.3.TaskTracker的失败:一个TaskTracker由于崩溃或运行过于缓慢而失败,JobTracker注意到后会将它从等待任务调度的TaskTracker池中移除.如果是未完成的作业,JobTracker会安排此TaskTracker上已经运行并成功完成的map任务重新运行.如果TaskTracker上面的失败任务数远高于集群的平均失败任务数,它将会被列入黑名单,可以通过重启从JobTracker黑名单中移除.4.JobTracker失败:JobTracker失败是所有失败中最严重的一种.目前Hadoop没有处理JobTracker失败的机制-它是一个单点故障.在此情况下,作业注定失败.未来版本可能通过多个JobTracker来解决这个问题,任何时候,只有一个主JobTracker.  

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/22344598/viewspace-1108675/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
下一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2009-08-14