ITPub博客

首页 > 大数据 > 数据分析 > 标题:DKhadoop大数据处理平台监控数据介绍

标题:DKhadoop大数据处理平台监控数据介绍

数据分析 作者:本宫没空6 时间:2018-10-30 09:50:35 0 删除 编辑

标题: DKhadoop 大数据处理平台监控数据介绍

2018 年国内大数据公司 50 强榜单排名已经公布了出来,大快以黑马之姿闯入 50 强,并摘得多项桂冠。 Hanlp 自然语言处理技术也荣膺了 “2018中国数据星技术” 奖。 对这份榜单感兴趣的可以找一下看看。本篇承接上一篇《 DKM平台监控参数说明》,继续就大快的大数据一体化处理架构中的平台监控参数进行介绍和说明。

DKhadoop大数据处理平台架构的安装相关文章已经分享过,详细的内容可以找一下看看。在上一篇中已经就集群平均负载、集群磁盘使用情况、HDFS监控界面、 Hbase监控界面 等监控参数进行说明。今天就把剩下的一些监控参数一起介绍完,关于大快大数据处理平台监控参数的介绍就完整了。

 

1 Yarn 监控界面

1   执行失败的应用程序

 

监控 yarn 资源管理中总执行失败的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

2 已提交的应用程序

 

监控 yarn 资源管理中已提交的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

 

3 正在运行的应用程序

 

 

监控 yarn 资源管理中正在运行的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

4   等待执行的应用程序

 

 

监控 yarn 资源管理中等待执行的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

 

5 已完成的应用程序

 

 

 

 

监控 yarn 资源管理中已完成的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

6 kill 的应用程序

 

 

监控 yarn 资源管理中被杀死的应用程序数量

纵轴表示应用程序数量,单位个

横轴表示时间 , 单位分钟

2 Spark 监控界面

注意:( spark 运行任务后才有监控数据)

1   最大可使用内存

 

 

监控 Spark 集群中最大可使用的内存

纵轴表示内存容量,单位 MB

横轴表示时间 , 单位分钟

2 已使用的内存

 

监控 Spark 集群中已经使用的内存

纵轴表示内存容量,单位 MB

横轴表示时间 , 单位分钟

3 剩余内存

 

 

监控 Spark 集群中剩余的内存

纵轴表示内存容量,单位( MB

横轴表示时间 , 单位分钟

4 Spark 中任务数量

 

监控 Spark 集群中任务数量

纵轴表示内存容量,单位 MB

横轴表示时间 , 单位分钟

5 Spark 中正在运行的任务数量

 

监控  Spark 中正在运行的任务数量

纵轴表示内存容量,单位 MB

横轴表示时间 , 单位分钟

6 正在运行的 stage 数量

 

 

监控  Spark 集群中正在运行的 stage 数量

纵轴表示 stage 数量,单位个

横轴表示时间 , 单位分钟

 

7 失败的 stage 数量

 

监控  Spark 集群中运行失败的 stage 数量

纵轴表示 stage 数量,单位个

横轴表示时间 , 单位分钟

8 准备就绪的 stage 数量

 

 

 

监控  Spark 集群中准备就绪的 stage 数量

纵轴表示 stage 数量,单位个

横轴表示时间 , 单位分钟

备注:

(横轴的时间表示采集时间,一般是 1 分钟一次)


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31555245/viewspace-2218002/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-09-18

  • 博文量
    54
  • 访问量
    24632