ITPub博客

首页 > 架构设计 > > 《数据架构》阅读笔记(六)数据架构

《数据架构》阅读笔记(六)数据架构

作者:浪花小雨滴 时间:2020-05-20 11:28:18 0 删除 编辑

《数据架构——大数据、数据仓库以及Data Vault》,作者W.H. Inmon,DanielLinstedt,译者唐富年,人民邮电出版社,2017年。

笔记中有些内容直接引用原书。

================================================================

1. 数据架构简史

数据架构最有意义的四个方面:数据的物理表现形式、逻辑联系、内部格式、文件格式。


物理演进:纸带/穿孔卡片——>磁带——>磁盘存储器——>并行磁盘、大数据。

逻辑演化:结构化——>层级结构/网络——>关系型——>Data Vault。

内部格式演化:结构化、非结构化——>重复型、非重复型

文件结构演化:文件——>主文件——>数据库——>ODS、在线、数据仓库——>维度模型、数据集市


2. 大数据/已有系统接口

重复型原始大数据。要对每条记录进行解析,定位到感兴趣的记录之后,对感兴趣的记录进行编辑,然后将其传送给已有系统环境。

可以对重复型原始大数据进行直接分析、简单搜索,然后提炼,进入到非结构化数据库。

可以对非重复型原始大数据进行文本消歧,提炼语境,生成语境丰富的大数据,供简单搜索;也可以在提炼语境后放入非结构化数据库(可以是标准DBMS),供语境化分析。

可以对保存在非结构化数据库的中经处理的上述两类数据再结合经典数据仓库中的数据进行综合分析。


3. 数据仓库/作业环境接口

ETL——>数据仓库

ETL——>ODS——>数据仓库

ETL——>集结区——>数据仓库

可通过日志磁带的检查来捕获变化数据,避免要将数据更新到数据仓库时去扫描整个数据库。


4. 数据架构——一种高层视角

数据架构的高层视角,可以看到以下几个部分:在线系统的数据库或文本记录、ODS、数据仓库、针对各部门的数据集市、归档的大数据系统。


BrianZhang:《数据架构》阅读笔记(一)企业数据​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(二)大数据​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(三)数据仓库​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(四)Data Vault​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(五)作业环境​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(七)重复型分析​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(八)非重复型分析​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(九)作业分析1​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(十)作业分析2​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(十一)个人分析​zhuanlan.zhihu.com图标BrianZhang:《数据架构》阅读笔记(十二完结篇)复合式的数据架构​zhuanlan.zhihu.com图标软件开发之路​zhuanlan.zhihu.com图标

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/31537575/viewspace-3163891/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-05-16

  • 博文量
    4259
  • 访问量
    40389