ITPub博客

首页 > 大数据 > 数据分析 > 02【在线日志分析】之基于Flume-ng Exec Source开发自定义插件AdvancedExecSource

02【在线日志分析】之基于Flume-ng Exec Source开发自定义插件AdvancedExecSource

原创 数据分析 作者:hackeruncle 时间:2017-01-06 13:33:37 0 删除 编辑

1.目的
CDH的角色日志的一行基本组成:年月日 时分秒.毫秒 日志级别 日志信息 

本博客主要是想基于Exec Source开发自定义插件AdvancedExecSource,将机器名称 和 服务名称 添加到一行数据的前面,则格式为:机器名称 服务名称 年月日 时分秒.毫秒 日志级别 日志信息   ;

2.关闭projet的Maven Project Builder

选择 flume-ng-core,右键单击Properties,弹出Properties页面,单击左侧的Builders, 取消 Maven Project Builder,再 单击OK。

 

3.由于 flume-ng-core的部分java文件抛错,所以要添加文件夹
选择 flume-ng-core,右键单击Properties,弹出Properties页面,单击左侧的Java Build Path,然后单击右侧的Source 页,单击Add Folder按钮,弹出选择页面;
选择 target/generated-sources/目录的annotations,avro,java,再单击ok;返回Properties页面,单击OK。
 


4.创建package为com.onlinelog.analysis
选择 flume-ng-core,右键单击
New,单击Package,输入com.onlinelog.analysis






5.手工将flume-ng-core的src/main/java目录的ora.apache.flume包下source包的ExecSource.java和ExecSoureceConfigurationConstants.java文件,选中,拷贝一份至com.onlinelog.analysis包下;然后选择ExecSoure.java文件,右键选择Refactor-->Rename, 改为AdvancedExecSource,单击Finsh。



6.修改代码AdvancedExecSource.java代码
已经将代码上传至GitHub: https://github.com/Hackeruncle/OnlineLogAnalysis

7.导出为AdvancedExecSource.jar包


#导出后会有warn提示,可以忽略。因为是一些import类没有使用而已。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/30089851/viewspace-2131995/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
主要从事大数据平台产品的技术工作; 负责基于Spark、Flink生产开发及性能调优; 负责对公司的集群的部署、监控、调优和运营; 主导我司的数据平台0到1及实时中间件项目开发; 此外,精通Java、Shell、Python编程; 且荣获2016年IBM的Spark大赛全球第四名,中国区域第一名。

注册时间:2015-01-03

  • 博文量
    187
  • 访问量
    395805