数据到hadoop的迁移
最近在用flume和sqoop来做非关系数据(日志)和关系数据(MYSQL)迁移到hdfs的工作,简单记录下使用过程,以此总结一 flume的使用使用flume把web的log日志数据导入到hdfs上步骤1 在 elephant 节点上先安装flume sudo yum install --assumeyes flume-ng2 创建配置文件vi /etc/hadoop/conf/flume-conf.propertiestai...
hadoop集群多节点安装详解
经常使用工具自动构建大规模集群环境,小环境也有10几台的机器,虽然自动部署很省事,但自动构建的背后那些机器自动完成的工作让我们疏忽了,特别是要自己构建一个小集群用于了解搭建细节和原理还是很有帮助的,今天为复习和了解下搭建过程中的细节,搭建了一个3节点的机器,并记录自己的搭建过程。一 搭建集群...