关于ETL的考虑(转载)
做数据仓库系统,ETL是关键的一环。说大了,ETL是数据整合解决方案,说小了,就是倒数据的工具。回忆一下工作这么些年来,处理数据迁移、转换的工作倒还真的不少。但是那些工作基本上是一次性工作或者很小数据量,使用access、DTS或是自己编个小程序搞定。可是在数据仓库系统中,ETL上升到了一定的理论高度,和原来小打小闹的工具使用不同了。究竟什么不同,从名字上就可以看到,人家已经将倒数据的过程分成3个步骤,E、T、L分别代表抽取、转换和装载。[@more@] 09 : 09 ETL的考虑 做数据仓库系统,ETL是关键的一环。说大了,ETL是
关于数据事实表汇总的模拟实现——原理
在数据仓库中通常会存储双重粒度级别的数据来满足不同的需要,轻度综合数据和原始数据,在原始数据层面上可以访问细节数据,而在分析层面则访问轻度综合数据。[@more@] 原始数据因为存储了基本上原封不动的数据,导致系统存储压力增大,同时也造成查询使系统性能的下降;而轻度综合数据由于数据进行压缩更为简洁,通常情况下对数据仓库的访问95%以上都是通过轻度综合数据访问来进行的。 数据增量聚合的实现和增量抽取类似,都是尽量以时间戳的方式,尽量减少每次事务的开销。
关于数据事实表汇总的模拟实现——脚本实现
本文主要是针对数据仓库中的事实表汇总或者聚集进行模拟实现的实现的环境:数据仓库数据库:SQLServer2000[@more@]创建表脚本 CREATE TABLE t_fact_RunStatus ( factProcName VARCHAR(40), factDesc VARCHAR(100), factType INT, LastLogTime DATETIME, BeginTime DATETIME, EndTime DATETIME, Status VARCHAR(20), LogLimit INT, Step INT, CancelFlag INT, CurTime DATETIME ) GOCREATE TABLE t_org_table( LogDate DATETIME, Dim1