solrcloud4.9添加IK分词器
ik-analyzer下载地址:http://code.google.com/p/ik-analyzer/downloads/list1. 将 IKAnalyzer2012FF_u1.jar、IKAnalyzer.cfg.xml、stopword.dic 三个文件拷贝到solr目录下的WEB-INF目录下的lib目录下。2. 修改schema.xml 配置文件 添加以下配置: <fieldType name="text_ik" class="solr.Tex...
Hadoop 2.5.2版本安装部署
软件及版本:Hadoop版本hadoop-2.5.2操作系统Red Hat Linux 6.432bitJDK版本jdk-8u25-linux-i586.rpm...
hbase单表加ObServer
继承BaseRegionObserver类 打成jar包 上传到hdfs进入hbase shell 将表disable 执行 alter 'sdzn_public', METHOD => 'table_att','coprocessor'=>'hdfs://192.168.0.237:9000/hbase/observer/regionObserver.jar|cn.sdzn.web.hbaeObServer.solrindexcoprocessorobserver|1001|'将表enableOK...
sqoop一个导入的例了(mysql)
登陆mysql[hadoop@master root]$ mysql -u root -p -h 192.168.168.20create databasemysql> create database hadoopguide;Query OK, 1 row affected (0.06 sec)操作权限mysql> grant all privileges on hadoopguide.* to '%'@'192.168.168.20';Query OK, 0 rows affected (0.17 sec)mysql> grant all privileg...
一个DATANODE无法启动的问题
java.io.IOException: File … could only be replicated to 0 nodes, instead of 1。使用dfsadmin -report报无数据节点,如下:[hadoop@namenode hadoop]$ hadoop dfsadmin -report Configured Capacity: 0 (0 KB)Present Capacity: 0 (0 KB)DFS Remaining: 0 (0 KB)DFS Used: 0 (0 KB)DFS Used%: ?%U...
Hadoop 2.5.2版本安装部署
软件及版本:Hadoop版本hadoop-2.5.2操作系统Red Hat Linux 6.432bitJDK版本jdk-8u25-linux-i586.rpm...
Mens Moncler W Lanster Jackets Outlet
Moncler Rille Black Outerwear,Moncler Lucien Mens Hooded down Coats,Hallet Moncler Heavy Black Jacket,Moncler Rainier Hoody Coats for Men,Mens Moncler W Lanster Jackets
搭建hadoop2/CDH4集群
版本及准备我部署的是hadoop-2.0.0-cdh4.2.0.tar.gz,下载地址为http://archive.cloudera.com/cdh4/cdh/4/hadoop-2.0.0-cdh4.2.0.tar.gz 。在http://archive.cloudera.com/cdh4/cdh/4/ 下还可以下载到CDH hadoop生态圈内相关的包。再准备一个jdk1.6+的java环境,设置好JAVA_HOME。需要注意的是,window...
Map-Reduce数据分析之二
1 我们常说HBase是“数据即日志”的数据库,它是怎样修改和删除数据的?和Oracle这类传统的RDBMS有什么区别?2 HBase合并storefile的原因是什么?在合并的过程中会做什么操作?如果在合并过程中恰好有涉及到有关storefile的查询发生,会发生什么情况!3 HBase具有怎样的一致性水平?
hadoop搭建与eclipse开发环境设置
1. Windows下eclipse开发环境配置1.1 安装开发hadoop插件 将hadoop安装包hadoop\contrib\eclipse-plugin\hadoop-0.20.2-eclipse-plugin.jar拷贝到eclipse的插件目录plugins下。 需要注意的是插件版本(及后面开发导入的所有jar包...
Map-Reduce数据分析之二
1 我们常说HBase是“数据即日志”的数据库,它是怎样修改和删除数据的?和Oracle这类传统的RDBMS有什么区别?2 HBase合并storefile的原因是什么?在合并的过程中会做什么操作?如果在合并过程中恰好有涉及到有关storefile的查询发生,会发生什么情况!3 HBase具有怎样的一致性水平?
由hostname引起datanode无法正常启动的一个问题
安装hadoop 2.5.X版本的虚拟机群,在初始化 namenode 时候遇到了如下错误:SHUTDOWN_MSG: Shutting down NameNode at java.net.UnknownHostException: datanode: datanode: unknown error如果忽略该错误启动DFS,会发现datanode无法正常启动。原因: hadoop在格局化HDFS的时辰,经由过程host...
Map-Reduce数据分析之二
1 我们常说HBase是“数据即日志”的数据库,它是怎样修改和删除数据的?和Oracle这类传统的RDBMS有什么区别?2 HBase合并storefile的原因是什么?在合并的过程中会做什么操作?如果在合并过程中恰好有涉及到有关storefile的查询发生,会发生什么情况!3 HBase具有怎样的一致性水平?
Hive UDF开发
Hive进行UDF开发十分简单,此处所说UDF为Temporary的function,所以需要hive版本在0.4.0以上才可以。Hive的UDF开发只需要重构UDF类的evaluate函数即可。例:package com.hrj.hive.udf;import org.apache.hadoop.hive.ql.exec.UDF;public class helloUDF extends UDF ...
付出与回报需要成正比吗?
它是一种很美妙的东西,能够让你在丢失的时分变得高兴起来,能够让你走出苦海,去迎候新的人生。 只要拥有真实兄弟的人,才干感受到它真实的美好之处。 友谊,它是一种只要付出了同样一份这样的东西,才干够得到这种盛天下棋牌。 它和亲情、爱情相同,是一...
Hadoop Introduction
大数据如此之火,Hadoop亦然。那到底什么是Hadoop,她有什么作用呢?此篇博文将为你介绍,不断更新。
Hive安装及使用攻略--mysql--总算找到了一篇很全很实用的文章
Hive安装及使用攻略让Hadoop跑在云端系列文章,介绍了如何整合虚拟化和Hadoop,让Hadoop集群跑在VPS虚拟主机上,通过云向用户提供存储和计算的服务。现在硬件越来越便宜,一台非品牌服务器,2颗24核CPU,配48G内存,2T的硬盘,已经降到2万块人民币以下了。这种配置如果简单地放几个web应用,显然是奢侈的浪...
配置Hive,采用mysql存储metadata
1.安装hadoop(1.0以上) 2.安装hive安装(0.9.0以上版本) 4.当然你还得安装jdk 4. mysql,同时准备个可访问的账号,这里采用root,最好配上远程访问权限。 修改hive下的conf文件夹中将 hive-default.xml.template 复制并改名成 hive-site.xml这里是我的文件...
hive应用实例1
我们沿用之前hadoop wordcount的结果数据:[hadoop@icity0 ~]$ hadoop fs -cat /wc/out/part-r-00000Warning: $HADOOP_HOME is deprecated.beautiful 1day 1dear 2hello 2hometown 1honey 2is 2my 2one 1sunny 1this 1today 1world 3现在我们在hive上新建一张wor...
Hive自定义分隔符InputFormat
转载: http://www.micmiu.com/bigdata/hive/hive-inputformat-string/Hive默认创建的表字段分隔符为:\001(ctrl-A),也可以通过 ROW FORMAT DELIMITED FIELDS TERMINATED BY 指定其他字符,但是该语法只支持单个字符,如果你的分隔符是多个字符,则需要你自定义InputFormat来实现,本文就以简单的示例...