test
assad
数据质量的四大特性
--[@more@]关于数据质量的问题我最近也研究了几个月,我来谈谈我自己的体会吧 首先出现报表数据在不同版本出现较大的问题这是很多原因,不管谁先谁后我们假设有两张报表,A和B,A和B报表上出现的总销售额不一样,由一下几种情况 1: 销售额的统计范围不一,如时间,区域或者产品 2: 定义不一致,比如是否扣税,汇率,结算方式(如应付款和收货款),或者财务的款项统计,常见的有自然年月日的统计和财务计算年月的统计 3:数据的维度统计不一致,如订单的状态,是否有取消的,是否计算冲账的 4:数据来源不一致,如从市场部门获得的
BI工具选择的探讨有感
:[@more@]Gary Hu在论坛上发表了一点需求,可能企业需要做一下BI的应用,内容如下 正在考虑上一个BI系统, 请各位出一下注意: 1. 公司大约300人, 3年后也许能达到600-800人; 2. OLTP数据规模约500G, 3年后也许能达到3T; 3. 有10个分公司, 3年后也许20个; 4. BI用户预计30个, 3年后也许80-100个; 5. 预算约20万; 对于这样的需求,我有如下的体会 1:这里面有5个要求,有4个中间有也许, BI是要考虑未来的因素,而且需要一个明确的规划,哪些人将来需要用到报表,哪些是查询,哪些是分析,有多 少管理层,每个层的数据粒度是怎么样的,。。。
外部数据在数据分析中的应用
:[@more@]外部数据在数据分析中的应用 通常来说,我们可以讲数据分为内部数据和外部数据,内部数据是企业运营中所获得的数据,如销售数据,财务数据,产品数据,客户数据,供应商数据,分销商数据等等,外部数据是内部数据之外的数据,非企业运营所产生的数据,如行业数据,社会资源数据等等今天我们来说说外部数据在数据分析中的应用进来,我在为一家全球空调生产商做亚太区的数据分析,对于工业空调的应用,最近几年国内销量逐年增加,相比亚太区其他国家,增加幅度次之,欧美发达国家再次之,这里比较的是变化的幅度。如果按照地区作为
从众理论想到的分析应用
:[@more@]从众理论是什么了,我举一个例子 如果巴菲特投资一只股票,那么,他是一个很好的可追随者,会有很多人投资他的股票,这样,这只股票原来可以不回赚钱的,但是他投资了,也许你就可以赚钱,这就是从众行为 也许他是名人,所以不太确当,那我就再说一个吃饭的行为吗,如果两家小饭店,一个有2-3个人,另外一个没有人吃饭,现在我们要吃饭,在两家饭店中,你会选择哪一个?答案也许大家都知道,这也是从众行为 那位说,这个行为和BI的分析有用有关系吗? 我觉得太有了 如果生意不好的饭店,在每天生意开始2小时内,推行打折的方式,
数据质量管理模型
:[@more@]问题: 目前企业存在多地区,多产品,多业务,多系统的环境,在数据信息,报表统计,业务分析和业务元定义上存在数据不一致,不完整,不统一以及不真实和不及时的情况,这样让业务人员,管理者,信息使用者存在误解,导致决策出现偏差,同时低下的数据质量往往造成开发出来的系统与用户的预期大相径庭,而在维护阶段,也出现维护成本不断上升,工作量加大,系统难以扩展 成果: 1:在源数据剖析,数据质量元数据管理,数据验证和数据修补上给出指导建议和标准的解决方案 2:源数据剖析系统原型 3:数据验证引擎系统原型
ttnn 研究院成立,希望有志之士报名参加
ttnn 研究院成立,希望有志之士报名参加[@more@]ttnn研究院成立宣言 (http://ttnnlabs.appspot.com) 好消息,ttnn研究院正式成立了! 作为一个非盈利组织,ttnn一直专注决策支持领域,提供论坛、杂志和新闻服务。 决策,是决策者在业务流程种采取何种行动的判断,不仅有高层的战略决策,还包括战术甚至执行层面的决策。基于事实驱动的理性决策是现代管理一个重要的思想,为实现这一思想,涌现出数据整合、管理、数据分析、可视化等等诸多技术,商业智能(BI)是这个领域的统称。目前,BI产品、方案林林总总,但在用户的决策需求和产
BI 需要梦想
:[@more@]BI 需要梦想时间在流失,时代也在变化,IT更是月新日异,硬件,软件和概念同样变化飞快。而BI,在我看来,这几年的变化并不大,几年前的构架,现在还在用,而且还有越来越多的追逐者。太多的公司和个人一直在追逐者技术和工具的使用,而忽略了创新。这一点在国内尤其明显,国外的一些网站,如bireview,B-Eye-Network ,intelligententerprise,经常看到一些新的符合企业现状的工具或者理论的出现。且不论实用否,且不论合理否,至少都是一种尝试。国内的情况却是实践者少,创新理论的更少。是否BI落寞了?我时时思考之。答案是否
越复杂,越抓不住重点
:[@more@]现在的科技越来越发达,手机,可以集成电话,上网,收音机,MP3,照相机,MP4,PDA等居多功能。这一点在国产的手机上有很好的体现,但是主要的还是通讯。很多人,特别是专业的人士,在选择的时候还是选择它的电话和短信功能,虽然现在有很多人开始考虑上网游戏等一部分功能,但是如果其他的功能再好,通讯不好的话,还是很少有人问津的。单一功能的强大,会带来品牌的整体提升。功能越复杂,反而越少人询问。冰箱,洗衣机电视机等其他的电器也同此理。技术工作者和业务工作者也是需求和被需求的关系。不管我们是甲方还是乙方,作
BI的冬天来到了吗?BI该是创新的时候了
:[@more@]2007年到2008年中,很多的客户和企业计划着BI的事情,改善公司的数据环境,报表查询和检索效率,以及各角度的业务数据分析。似乎我们看到BI崛起的春天。突然,一夜北方吹来,天空巨变,骤然寒冷下来,潜在的客户纷纷唱到:“预算有限,短期内是不会考虑BI项目的”。似乎像一个剑客,拿着一把削铁如泥的宝剑,只能在深山中砍柴生火,以免被饿死冻死。BI的项目有太多的无价值了,虽然有很多人觉得从构架上,从系统性能上或者从数据整合上都成功的,但是如果实际应用上比较糟糕的话,应用本身也就没有什么价值,甚至不值得去投资时
合并与拆分数据模型(MSDM:Merging & Spliting Data Modeling)
[@more@]MSDM只要针对的是多地区,多维度,跨时区的操作,特别是零售和制造行业,不同地区存在不同的ERP系统和其他同类型不同操作的系统。很多大型的业务系统,有很多的定时进程是在晚上运行,比如汇率转换计算,数据备份等,而不同国家地区的操作策略也不一样。数据仓库的有些机制是需要业务原系统的参与,比如数据的导入,有些则不需要原系统的参与,比如数据仓库的数据删除,索引建立,为了不影响数据仓库系统的及时性和准确性,有必要对数据仓库各层进行分解和合并。原有的多维模型和关系模型过多的讲究统一性和一致性,倒是在推广BI
ETL的可扩展性和可维护性
:[@more@]ETL的过程我想很多人都谈过了,最近我在比较SSIS,OWB和infomatica,结合以前的项目,加深了我对ETL过程的理解和认识。其实这三种工具,除去应用平台以为,大同小异,各有利弊。今天我想分享一下我的经验,主要在扩展和维护方面。1:数据落地和ELT 很多人谈到数据落地的概念,说白了,就是ODS或者DWH中,有数据input或者output的,都先把要操作的数据放到临时表里面,而数据传输的两端的表的结构都是一样的,这样的操作比较便捷,几乎不用考虑转换的问题。 同时我们还要提到的就是ELT,ELT和ETL其实各有好处,一个是用工具来
BI项目的价值评估
:[@more@]很多的项目,很多的成功了,也有很多的失败了记得一次我去拜见一个客户的时候,他问了我一个问题“既然你说得BI这样好,那么如何去评估它”。其实是投资回报率的问题。很多的公司不是制造业,不是零售业,也许就是简简单单的服务业,能和电脑或者间接和电脑打交到的企业不多,比如民航,餐饮,酒店等等。其实我们知道BI能减轻很多企业现有的压力,能做很多的报表和分析数据,但是又能怎么样了,涉及到钱的问题,很多人心里都会算一算的,如果一个项目,软硬件超过100万,对于一个餐饮行业而言,你觉得老板上BI好还是不上的好。当
数据质量之矫正引擎
:[@more@]我们经常会遇到这样的情况:客户希望我们实施DW/BI,等我们调研完了之后发现问题如下1:全部有8个国家(A1,A2,A3,A4,A5A,A6,A7,A8),有5中系统(S1,S2,S3,S4,S5),每个国家的每种系统不完全一样。2:系统是按照业务来划分的,只有销售体系和财务体系是每个地区都可以提供一些基本数据的。而销售和财务数据,每个地方都存在一些差异,这些差异又是允许存在的,而且是一定存在的。3:未来2-4年内,可能所有地区和系统都会整合进入DW中。4:企业没有将地区业务系统统一的计划5:现在迫切需要上销售模块的BI,而韩国需要上HR方面的B
一点被忽视的模型使用方法
:[@more@]现在每个公司,每个技术人员再谈到BI/DW的时候都谈到模型,不管是关系模型还是多维模型,甚至是二者的混合模型,我们很多人都在考虑表(table)的设计,数据的存储等等问题,这些的确使我们需要考虑的,但是我们却忽视了一点,我们前台展现的只是需要的浏览数据,而不是你有没有数据存储在database中。当然我这样说,大家都要问了,不存储数据怎么展现数据了?是的,我们需要存储,但是不是任何展现的数据都需要在数据库中记录,有的是我们使用case语句转化过来的,这些转化后的数据存储在数据库中最好。言归正传,我接触到的很
论数据仓库架构前需要考虑的问题
:[@more@]论数据仓库架构前需要考虑的问题除掉满足需求以外,一个好的数据仓库需要考虑的是使用(应用)是否方便,维护是否方便,扩展是否方便,开发是否方便。使用: 好的系统首先解决的是使用问题,如果最好的操作人员不满意的话,通常应用效果都会比较差的,所以很多公司很注重用户场景的设计,我曾经和微软的同事有过一段时间的接触,发现他们很注重一般企业不注重的问题,比如我们在查询时,选择条件,有的是大于,有的是小于,有的是大于等于等等,通常这样的情况,在事先没有统一的要求和规定,但是他们对于每一个用户场景的描述
DW中的数据校验
DW中的数据校验[@more@]数据,数据,数据! 数据很重要,离开了数据就什么都玩不转,这就是BI! 中国有一个现象就是居住证或者暂住证的制度,去了别的城市,有了时候你有户口还是非法的。 数据就是你,系统就是城市。DW,ODS,ERP,MIS等等都是城市,所以你原来数据ERP的,现在到了DW,你就要去公安局或者其他的部门登记,验 证身份,(户口,住址,身高体重,工作单位,有无不良记录),然后才合法。(上海就是这样的,所以上海的治安,相对来说比较好)。所以登记和验证的工作 是必不可少的,DW的流程中,数据校验(data validation)就显得
管理理论
--[@more@]产品生命周期理论是美国哈佛大学教授雷蒙德·弗农(Raymond Vernon)1966年在其《产品周期中的国际投资与国际贸易》一文中首次提出的。 产品生命周期(product life cycle),简称PLC,是产品的市场寿命,即一种新产品从开始进入市场到被市场淘汰的整个过程。费农认为:产品生命是指市上的的营销生命,产中和人的生命一样,要经历形成、成长、成熟、衰退这样的周期。就产品而言,也就是要经历一个开发、引进、成长、成熟、衰退的阶段。 典型的产品生命周期一般可以分成四个阶段,即介绍期(或引入期)、成长期、成熟期和衰
常见的企业流程再造模式
---[@more@]迈克尔·哈默的四阶段模式 尽管迈克尔·哈默并没有系统地总结归纳流程再造的方法步骤问题,但是有学者通过对他著作的研读,基于对迈克尔·哈默观念的深入理解,替他总结出了一个四阶段模式。 第一阶段,确定再造队伍:产生再造领导人,任命流程主持人,任命再造总管,必要时组建指导委员会,组织再造小组。 第二阶段,寻求再造机会:选择要再造的业务流程,确定再造流程的顺序,了解客户需求和分析流程。 第三阶段,重新设计流程:召开重新设计会议,运用各种思路和方法重构流程。 第四阶段,着手再造
SharePoint Designer 2007,强大的工作流设计器
--[@more@]SharePoint Designer不仅仅可以用来对SharePoint站点的界面进行定制,它同时还内置了一个强大的工作流设计器。使用这个工作流设计器,我们可以通过一系列的配置工作,将指定的步骤、条件、操作组合起来,组合成一个完整的工作流模板。Denny Zhang有三篇很好的介绍性文章,演示了如何利用SharePoint Designer来创建一个完整的工作流模板:在SharePoint中实现Workflow(1)在SharePoint中实现Workflow(2)在SharePoint中实现Workflow(3)为了帮助大家对SharePoint Designer 2007有更深入了解,在这篇文章里向介绍几个最基本的概念。基