09【在线日志分析】之基于Spark Streaming Direct方式的WordCount最详细案例(java版)
1.前提
a. flume 收集--》flume 聚合--》kafka ，启动进程和启动kafka manager监控
08【在线日志分析】之Flume Agent(聚合节点) sink to kafka cluster
b.window7 安装jdk1.7 或者1.8(本次环境是1.8)
c.window7 安装IDEA开发工具(以下仅供参考)
使用IntelliJ IDEA 配置Maven（入门）: http://blog.csdn.net/qq_32588349/article/details/51461182
IDEA Java/Scala混合项目Maven打包 :http://blog.csdn.net/rongyongfeikai2/article/details/51404611
Intellij idea使用java编写并执行spark程序: http://blog.csdn.net/yhao2014/article/details/44239021
2.源代码 （可下载单个java文件，加入projet 或者 整个工程下载，IDEA选择open 即可）
GitHub: https://github.com/Hackeruncle/OnlineLogAnalysis/blob/master/online_log_analysis/src/main/java/com/learn/java/main/SparkStreamingFromKafka_WordCount.java
3.使用IDEA 本地运行测试（未打jar包）
a. flume 收集--》flume 聚合--》kafka ，启动进程和启动kafka manager监控
08【在线日志分析】之Flume Agent(聚合节点) sink to kafka cluster
b.window7 安装jdk1.7 或者1.8(本次环境是1.8)
c.window7 安装IDEA开发工具(以下仅供参考)
使用IntelliJ IDEA 配置Maven（入门）: http://blog.csdn.net/qq_32588349/article/details/51461182
IDEA Java/Scala混合项目Maven打包 :http://blog.csdn.net/rongyongfeikai2/article/details/51404611
Intellij idea使用java编写并执行spark程序: http://blog.csdn.net/yhao2014/article/details/44239021
2.源代码 （可下载单个java文件，加入projet 或者 整个工程下载，IDEA选择open 即可）
GitHub: https://github.com/Hackeruncle/OnlineLogAnalysis/blob/master/online_log_analysis/src/main/java/com/learn/java/main/SparkStreamingFromKafka_WordCount.java
3.使用IDEA 本地运行测试（未打jar包）
来自 “ ITPUB博客 ” ，链接：https://blog.itpub.net/30089851/viewspace-2132442/ ，如需转载，请注明出处，否则将追究法律责任。
请登录后发表评论
登录
全部评论
最新文章
- Resolving archive.cloudera.com... failed: Temporary failure in name
- 记录2018年底最后1次HBase故障维护
- Batch containing 11 record(s) expired due to timeout while requesting metadata
- 【记录】:CentOS清理swap和buffer/cache
- java.io.IOException: Connection reset by peer
- maven报错：找不到符号
- Kubernetes node的防火墙问题导致pod ip无法访问
- 基于CentOS6.4环境编译Spark-2.1.0源码
- 有幸参加上海专场Spark线下课程,谈谈感想
- Maven-3.3.9 Install and Oozie-4.3.0 Compile
