ITPub博客

由于之前在 PHP 中使用 Kafka 是通过 composer 包的方式，由于 nmred/kafka-php 很久没有维护，并且网上相关问题的文章也比较少。所以我这次换成 PHP 扩展 RdKafka 继续使用，主要介绍扩展安装和这种方式的基本操作。

最近有一个小 demo，需要通过 PHP 将用户行为记录储存到 MongoDB，再用 Spark 做协同过滤。由于以前处理跨语言交互是通过消息中间件，这次本地使用 MongoDB 却弄出了几个问题。首先是本地安装了扩展，启动时报找不到模块错误，再个时 PHP 进行的实例化使用时报 MongoClient 和一些函数不存在。最后也推荐一些方便快捷的 MongoDB 图形化工具

都知道，小编前面已经简单介绍过在windows下hadoop和hive环境搭建和基本使用。这次的Spark有点突兀，但是也可以先忽略，重要的是先在IDEA中安装bigData插件连接hadoop已经HDFS，而后再简单介绍使用Spark操作Hive。

周末空闲时间无意找到了一套个性化推荐的源码，整体项目运用了SSH，HDFS，Flume，Hive，Kafka，Spark，Scala等。运行时，本来通过spark计算业务埋点数据时，却发现本地没有Kafka。因为我一直也没使用过Kafka，所以也作为新人，浅谈以下Kafka的环境安装与分别在PHP，Scala中的使用。

因为在项目中集成了ElasticSearch，用于某些业务场景的搜素或筛选。这里关于ElasticSearch就不做介绍了，虽然解决了全文搜索的性能问题。但是当出现一些频繁更新的数据放置在ES就有点麻烦了。

Hive是一个基于Hadoop的数据仓库工具，以一种类SQL的HQL语句操作Hadoop数据仓库(HDFS等)。所以本地windows安装前需要先搭建Hadoop。前面文章已经大概介绍了环境搭建和踩坑汇总，所以这里也依旧只是介绍基础的安装方法。因为关于Hive的安装，网上其实有很多文章，这里更多的是小北在安装过程中的遇到的各种坑的汇总以及解决方法。

因为平时工作和日常接触到的大都是的中型项目，所以少有个性化推荐等涉及大数据的功能。但是后期应该也会在自己项目中添加信息推荐模块，所以就开始关注spark，hadoop，Thrift等工具，以下就以hadoop先开始，包括环境搭建和配置过程中踩坑过程。

由于之前在 PHP 中使用 Kafka 是通过 composer 包的方式，由于 nmred/kafka-php 很久没有维护，并且网上相关问题的文章也比较少。所以我这次换成 PHP 扩展 RdKafka 继续使用，主要介绍扩展安装和这种方式的基本操作。