ITPub博客

首页 > 数据库 > 数据库开发技术 > 数据仓库之模型设计

数据仓库之模型设计

原创 数据库开发技术 作者:mcxiaoracle 时间:2023-06-04 21:06:29 0 删除 编辑

一、 数据仓库与数据库的区别

1、数据仓库是集成的,数据库为单一的业务提供服务。

2、BI结构:数据整合层、数据服务层、应用分析层、信息展现层

3、数据层库结构

    ODS(临时存储层),一般都是贴源设计、业务数据库是什么,ODS层就是什么

PDW/DW(数据仓库层),将年月日,拆分成年、月、日字段,一般采用Int类型;通过ODS层到DW层的etl脚本对数据进行数据清洗、进行设计。分部门根据业务需求进行设计。如果没有业务需求,就根据源系统的表结构和自己建模经验去处理。


DM(数据集市层),维度建模,星形模型,雪花模型。需要什么数据就去拉取什么数据。


APP(应用层),报表展现,需要的数据,与DM层处于同一级别。

4、ODS层分为增量更新或者全量更新;PDW层一致的、准确的、干净的数据,一般遵循数据库三范式设计

2、数据仓库是集成的,数据源是分散的,来自不同的应用。数据仓库中的综合数据,不能从源数据中直接得到,一般会经过etl过程(数据抽取、数据转换、数据加载)。数据抽取一般会定时的进行抽取,避免对业务系统造成影响,一般叫做T-1抽取、T+1抽取。目前企业对数据的实时性要求越来越高,比如实时监控一个实时的活动效果,并根据效果进行不同策略的营销手段,保持活动的效果




3,逻辑模型

对概念模型中的主题进行细化,定义实体与实体之间的关系,和实体的属性。

即定义具体表的作用,表与表的约束,表的字段。形成ER图。

这些实体的设计都是基于业务规则,可以说,这一阶段主要面对的是业务。也就是“业务驱动建模”


4,物理模型


依照逻辑模型,在数据库中进行建表、索引等。数据仓库,为了满足高性能的需求,可以增加冗余、隐藏表之间的约束等反第三范式操作。


这一阶段,主要针对的是数据库、硬件、性能。


范式:


第一范式:数据库表的字段都是单一属性,不可再分。


第二范式:数据库表中不存在非关键字段对任一候选关键字段的部分函数依赖。


(部分函数依赖指的是存在组合关键字中的某些字段决定非关键字段的情况)。即要求所有属性都依赖于主键。


第三范式:数据库表中不存在非关键字段对任一候选关键字段的传递函数依赖。


范式是向下兼容的。





星型模型和雪花模型

首先,他们都是由一个事实表和一组维度表组成。

星型模型,也被称为维度建模。

区别在于:

星型模型:维度表直接跟事实表连接,图型像星星。

如区县和地市做为同一维度都在地市表中。

*维度预处理,维度会预先进行分类,排序等预处理。

从性能来看,星型模型查询性能好。

为了提高性能,可以允许违反第三范式,适当的冗余、隐藏表之间的约束。



维度建模


将商业维度融合到数据模型中,由此得名维度建模。


或者说,为了分析方便(商业应用要求),将同一维度的不同层次的维度(如地市ID,区县ID)都融合到事实表中(如用户宽表)。


维度模型也是星型模型。


它 强调的是先对维度进行预处理,将多个维度集合到一个事实表,形成一个宽表,如上面的用户统一视图。包含了20多个维度。这样可以组合各维度,形成灵活的报表查询。













————————————————

版权声明:本文为CSDN博主「大数据球球」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。


原文链接:https://blog.csdn.net/Q1059081877Q/article/details/120955379


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69949806/viewspace-2956572/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 数据架构
下一篇: DBA 之路
请登录后发表评论 登录
全部评论
数据方向,了解oracle ,IBM DB2 730

注册时间:2019-09-30

  • 博文量
    286
  • 访问量
    226585