使用 kettle 做信息采集
最近在使用 Kettle 从一些分类信息网站采集数据,如这里的赶集网插件。基于这些采集插件,我们开发了一个教育行业的应用网站,这个网站可以从不同的分类信息网站、BBS采集教育行业的信息。[@more@]
关于 kettle 中文稳定版
Kettle 是一个优秀的开源 ETL 工具,用过它的开发人员都会为它的功能强大而折服,甚至成为了 Kettle Fans。 和很多流行开源软件一样,Kettl 不断增加新的功能,但同时也不断引入新的 bug,因此一直没有一个稳定的对中文友好的版本,这也是很多开发人员烦恼的事情。 在我们这几年从事 kettle 的开发和应用实施工作中,也做了很多 bug 修订和二次开发工作,有的汉化和修订也提交到了 kettle 的 trunk 分支中。 为了我们本身工作的需要,也为了满足 kettle fans 对中文稳定版的需要,我们计划开发 kettle 中文稳定版。 该版本以
使用 kettle 群发短信
在上一篇文章里描述了如何用kettle 群发邮件,群发邮件相对比较简单,这次我们来看看怎么用 kettle 群发短信。[@more@]本文内容详见:http://www.xgndata.com/biforum/topic-179-1.html本文所需软件从这里下载
kettle 实用功能之三 ---- 使用 kettle 群发动态内容的邮件。
有个客户是做外贸生意的,经常需要群发邮件,要求邮件里商品名称,收信人称谓等内容是动态的。他一直找不到一个合适的免费的群发工具,于是我推荐他使用了 kettle,并帮他画了一个流程来群发邮件。(这位朋友不是IT 人员,不会开发,只会使用 Microsoft Office )。(转载请注明:http://pdi.itpub.net)在我做的群发邮件流程里,还用到了我以前开发的一个插件(就是把文件内容作为字段加入到数据流)。 发送邮件流程,插件,kettle 我都集中在一起发布了。大家可以从 这里下载 该 kettle 的版本(该版本是基于 kettle 3.2 stable,修改了ke
制作 kettle 插件时,在 processRow 方法里的几个常用方法说明:
制作 kettle 插件时,在 processRow 方法里的几个常用方法说明:(转载请注明:http://pdi.itpub.net)//复制输入行的元数据,并设置为输出行的元数据。RowMetaInterface outputRowMeta = getInputRowMeta().clone();//构造一个新的输出列。方法一RowMetaInterface rowMeta = new RowMeta();Object[] rowData = new Object[1];int valtype = ValueMeta.getType("String");ValueMetaInterface valueMeta = new ValueMeta( “FieldName1”, valtype); valueMeta .setLength(-1);rowMeta.addValueMeta(valueMeta);RowMetaAndData met
kettle modified javascript 步骤的一个例子
例子里用到的 org.htmlparser.Parser 是一个html 的解析器,可以在 sourceforge 上下载。这个例子使用 org.htmlparser.Parser 包来解析一个 html 格式的字符串,要解析的 html 字符串保存在conntentOld 字段里。解析过程去除了 html 格式里所有标签,并将结果保存在 content 字段里。注意事项:1. 需要事先将htmlparser.jar包 放在kettle 的 libext 目录,kettle 在启动时会自动加载libext 目录下的所有 jar 包。2. modified java script 步骤要选中 compatibility mode,并将 content 设置为输出的字段。代码如下:[@more@]var parser =
kettle 实用小功能(二),读取一个目录下文本文件的内容
kettle 的实用小功能 中介绍了如何批量读取二进制文件的内容,这里说一下批量读取文本文件的方法。第一步也是使用 Get File Names 步骤,根据正则表达式来获取一个路径下所有指定的文件名。第二步骤使用 modified javascript 脚本步骤,来读取这些指定的文本文件,脚本如下。[@more@]//code beginfile = new Packages.java.io.File(filename.getString()); fileInputStream = new Packages.java.io.FileInputStream(file);reader = new Packages.java.io.InputStreamReader(fileInputStream);var cbuf = Packages.com.xgn.ketl.trans.step
微软对大企业下手了
看了这个新闻 http://tech.sina.com.cn/it/2010-04-22/10024094959.shtml 不禁有些感慨,微软的东西的确好用,但好用的东西是要花钱的。(转载请注明 http://pdi.itpub.net)微软的市场手段也很高明,先是纵容盗版,培养人们的消费习惯,熟悉他的软件,依赖他的软件,待到时机成熟时,就要向企业敛钱了。 除了微软,很多商业软件也是这么做的,这种方式就像撒种子一样。开始是通过各种渠道,如免费发放试用版,纵容盗版,让用户尝试使用软件,体会到软件带来的便利。等到用户操作习惯了,依赖上这个软件,商业软件们就开始收割了。相信