针对flume中扇出复用(源exec)源码修改,并编译flume
一、编写目地 最近研究Flume组件中关于复用数据,多路复用可以根据设定的信息,进一步分流。通过对flume组件的了解,除使用拦截器外,还可以对源码修改或自定义源。本次测试使用的是对源码修改。使用虚拟搭建flume + kafka环境,编写功能简单的多路复用,主要是用flume的exec收集数据源,放入到logger、hdfs、kafka...
Flume与Kafka整合--扇入、扇出功能整合,其中扇出包括:复制流、复用流
Flume与Kafka整合--扇入、扇出功能整合,其中扇出包括:复制流、复用流一、概念1、Flume:Cloudera 开发的分布式日志收集系统,是一种分布式,可靠且可用的服务,用于高效地收集,汇总和移动大量日志数据。 它具有基于流式数据流的简单而灵活的架构。它具有可靠的可靠性机制和许多故障转移和恢复机制,具有强大...