ITPub博客

首页 > Linux操作系统 > Linux操作系统 > 粤磊 informatica powercenter学习笔记(十)

粤磊 informatica powercenter学习笔记(十)

原创 Linux操作系统 作者:vzyuelei9 时间:2011-01-17 21:48:38 0 删除 编辑

               INFORMATICA  的调优之一   源数据的优化

 

                       5W1H法来实现源数据的优化

做数据仓库项目的朋友都能感到数据质量和数据抽取展现的性能是整个数据仓库项目的重点。下面谈谈我在DW项目中处理源数据质量问题的5W1H方法。

 

5W : WHO ,WHAT,WHY,WHEN,WHERE

 

WHO:(谁来对源数据负责)

ETL抽取的数据各种各样,有些是按业务,有些是按区域,针对源数据的管理一定要在一开始就对源数据按规则分出对应的责任人,一般刚开始与业务负责人,DM确定好具体的数据项后,就可以按数据类别比如RMDB,FLATFILE等来确定具体的联系人,联系方式。

 

WHAT:(源数据的业务含义)

源数据的具体业务含义由对应的业务负责人来确定,这点对DM的设计很重要。

 

WHY: (为什么要抽取这个数据到DW)

 

WHEN: (数据的生命周期多久,多久需要更新,有无抽取时间限制)

 

WHERE:(源数据放在什么地方来抽取,是RMDB还是指定路径下的 FLATFILE,还是URL WEBSITE) 一般为了保证源数据的抽取质量能先预处理到DB中的尽量先到DB中,这样的数据的处理信息会存到元数据知识库,便于确保数据质量。)

 

HOW: (如何抽到DW) 这里面主要考虑源数据存储的是否有序,如果前面5W做好了,这里面的源数据质量应该没问题,这一步主要考虑能否在缓冲区建立有效索引,对文件类型的源数据做基本清洗工作等。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/22377317/viewspace-684067/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2009-09-01

  • 博文量
    17
  • 访问量
    57723