ETL通用解决方案---oracle+存储过程 实现
方案理念--四化理念数据规格化处理自动化信息集中化操作人性化架构通过视图实现来至两个不同数据库的表的结构完全一致, 在结构完全相同的两个表之间进行数据同步, 问题变得相当简单. 同步代码如下. ETL---初始同步delete fr...
使用Oracle内建功能构建ETL流程
经常听到客户抱怨一些企业级的数据仓库软件许可证过于昂贵;也曾经见到过一次性的Access到 Oracle的数据迁移就使用了DataStage(这是真的!在发现 Server版本不能连接Access后,还专门购买了DataStage for ODBC --__--!)。实际上一些简单的ETL流程完全可以使用Oracle内建的功能完成。本文的主旨在于说明这一思想,文中代码...
数据库设计三大范式
转载地址:http://www.cnblogs.com/linjiqin/archive/2012/04/01/2428695.html 数据库设计三大范式为了建立冗余较小、结构合理的数据库,设计数据库时必须遵循一定的规则。在关系型数据库中这种规则就称为范式。范式是符合某一种设计要求的总结。要想设计一个结构合理的关系型数据库,必须满足一定的范式。...
数据仓库ETL流程规范(R2)
项目组希望我出一个ETL的规范,凭着自己的感觉和经验总结了一些步骤,我还会不断改进。本ETL流程规范试图建立一个通用的ETL流程开发规范,针对不同项目组的实际情况,可自行进行逐步的完善和修改。本流程应该是在需求分析阶段结束后实施。ETL流程:可以把ETL分为五个阶段,按照开发的顺序分:&n...
ETL概述
转载地址:http://czmmiao.iteye.com/blog/1835953ETL概述ETL,Extraction- Transformation-Loading的缩写,即数据抽取(Extract)、转换(Transform)、装载(Load)的过程,它是构建数 据仓库的重要环节。ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一...
ETL架构师面试题
1. What is a logical data mapping and what does it mean to the ETL team? 什么是逻辑数据映射?它对ETL项目组的作用是什么?答:逻辑数据映射(Logical Data Map)用来描述源系统的数据定义、目标数据仓库的模型以及将源系统的数据转换到数据仓库中需要做操作和处理方式的说明文档,通常以表格或Exc...
Powercenter体系结构和主要组件介绍
Powercenter体系结构和主要组件介绍 服务端组件Informatica Service:PowerCenter服务引擎Integration Service:数据抽取、转换、装载服务引擎Repository Service:知识库Service,管理ETL过程中产生的元数据Reposi...
在windows平台安装Informatica PowerCenter
安装前需要准备的文件pc86_win32_x86.zip -- Powercenter Server端安装文件pc86_client_win32_x86.zip -- Powercenter Client端安装文件10g_win32_client.zip -- Oracle 客户端安装程序 Server端安装过程1. 运行安装目录根目录下的install.bat文件...
Informatica Powercenter 介绍
1.1 Informatica Powercenter 的概念 Informatica PowerCenter 是Informatica公司开发的世界级的企业数据集成平台,也是业界领先的ETL工具。Informatica PowerCenter使用户能够方便地从异构的已有系统和数据源中抽取数据,用来建立、部署、管理企业的数据仓库,从而帮助企业做出快速、正确的决策。此产品为满足企业级要...
ETL优化 (R2)
转载地址:http://blog.csdn.net/jadeite/article/details/1837426 在讨论ETL优化之前我们应该首先讨论的是当前程序的性能。首先要定义ETL过程的基线标准。在建立了基线标准的基础上我们再来讨论该如何对已有过程进行优化。基线标准也应该包括标准情况下网络传输速度,硬盘读取速度等等的硬件指标。在此之上测量...
Datastage入门+实例(易理解)
转自http://www.ibm.com/developerworks/cn/data/library/techarticles/dm-0602zhoudp/ 传统的数据整合方式需要大量的手工编码,而采用 IBM WebSphere DataStage 进行数据整合可以大大的减少手工编码的数量,而且更加容易维护。数据整合的核心内容是从数据源中抽取数据,然后对这些数据进行转化,最终加载的...
数据仓库 ODS简介
转载地址:http://baike.baidu.com/link?url=dO6vvJ89eVg8xuMnHtWjIPDgXauYwZR3H7FZ0zV6P9Rh7N93Xa-hwiyfSHw1htlu#2概念ODS(Operational Data Store)是数据仓库体系结构中的一个可选部分,ODS具备数据仓库的部分特征和OLTP系统的部分特征,它是“面向主题的、集成的、当前或接近当前的、不断变化的”数据。...