ITPub博客

首页 > 大数据 > 数据分析 > 企业为何要构建敏捷数据分析平台

企业为何要构建敏捷数据分析平台

原创 数据分析 作者:滴普科技 时间:2023-03-30 18:46:35 0 删除 编辑

作者:DataSense产品总经理柏海峰


在企业数字化建设过程中,有两个术语经常被混淆使用,即“商业智能”(BI)和“数据分析”。那它们到底是不是一回事呢?要回答这个问题,就需要先回顾一下企业在数据分析的历程和现代数据分析发展的趋势,才可以做出清晰认知与判断。


图片来源网络

一、数据分析的发展和演变

1、数据分析1.0 → 商业智能需求

提到数据分析1.0时代,就需要回归到数据仓库的兴起时期。当时客户(业务)和生产过程(交易)被集中到巨大的存储库中,如eCDW(企业整合数据仓库)。这让企业对商业现象的客观理解方面取得了真正的进展,让管理者在做出决策时也能够基于对事实的理解,而不是仅凭直觉。

在这一阶段,数据通过ETL和BI商业智能分析工具收集、转换和查询。分析类型主要分为描述性(What Happen)和诊断性(Why Happen)。

然而,此时数据仅在公司企业内部使用,即商业智能活动只能处理过去发生的事情,而不能对未来趋势进行预测,存在着诸多局限性。

2、数据分析 2.0 →大数据分析

而后,随着各大企业数字化进程的深入进展,企业纷纷走出舒适区,试图用更广泛的方法进行更复杂的分析时,如何改变前一阶段数据分析的局限性就变得更为重要。

新的数据分析阶段,企业开始通过点击流媒体、社交媒体、互联网等外部资源获取信息,对新工具的需求也愈发明显。 此时,“大数据”一词的出现,就是为了区分那些纯粹来自企业内部系统的小数据。

在这一阶段,企业期望技术团队能够通过使用开源的大数据组件来处理大量数据。大数据开源技术除了在数据收集、转化、处理等层面提供丰富的工具,而且还能在集成预测性分析(What will happen),通过描述性和诊断分析的结果检测趋势、聚类和异常预测未来趋势,逐渐成为企业数据分析重要的预测工具。

3、数据分析 3.0→ 智能决策的数据产品

近年来,越来越多企业将数字化转型上升为企业长远战略目标,在数据分析领域加大投入,重点支持面向客户群体的产品、营销、服务、供应链等业务领域的数智化运营。这样做的好处在于,企业可以基于数据分析后的结果驱动,更好的搜索算法、购买推荐以及针个性化广告词,吸引用户访问企业网站和购买产品。

看到大数据分析给企业带来的便利及实际效益后,不仅科技公司这类数字化原生企业在通过数据分析开发产品和服务,几乎每个行业的公司都开始进行新的数智化尝试。

也就是在这一时期,数据科学领域应运而生,旨在使用科学方法、探索过程、研究算法等从各种形式的数据中获得知识和分析见解。

数据科学领域是跨学科的,它被定义为“结合统计、数据分析、机器学习等相关方法的概念”,从而用数据“理解和分析实际现象”。企业在数据科学的帮助下可以迅速发展,并充分利用预测性(What will happen)和规范性(Make it Happen)对未来趋势进行预测。

这个阶段企业借助数据分析在各个业务领域产生数据产品的应用,不仅帮助业务更好地改善智能决策,而且能基于数据洞察开发更有价值的产品和服务,成为企业的一种新的核心竞争力,这也是数据分析 3.0时期的精髓。

二、统一语义层的构建对现代数据分析有何价值?

1、传统数据分析产品的局限性

回顾数据分析的三个阶段的发展,可以发现从传统商业智能到如今的数据分析,无论是企业认知还是产品功能都产生了巨大转变。

一方面,企业正以超乎想象的速度发展,在内部设立更多的数据分析岗位,如数据科学家、数据工程师、数据分析师、商业智能分析师等人员构成的数据分析团队。

另一方面,企业数据消费的使用场景已经不仅仅是BI或者报表、仪表板,我们看到了新应用程序的激增,包括嵌入式分析(嵌入业务应用的集成)、数据科学分析(Notebook做数据探索分析和机器学习等)、业务流程自动化驱动(营销、商品运营自动化等),这些技术的应用对企业的技术架构提出了更高的要求。

与此同时,传统BI产品在解决企业新需求的时候却面临着局限性:首先,BI工具自行定义模型和指标,无法与其他应用产生共享,造成业务口径不统一、数据开发重复;其次,一些业务的分析结果要求更实时反馈给业务系统,以便形成及时的业务运营决策,但传统的BI商业智能工具无法提供更实时、大并发数据服务。

2、统一语义层的构建的价值

因此,面对新时期企业的数据分析需求,如何从技术架构根本上做出改变,变得至关重要,众多企业开始探索新的技术解决方案。

2021年初,互联网科技公司(Airbnb、领英等)纷纷通过现代数据栈的技术实践试图解决上述问题,且涌现出很多技术热词: Metric Store、Metric Layer、Headless BI等等。仔细分析不难看出,这些核心架构的本质思路,都是增加一层,即统一语义层(Semantic Layer),从而实现对更复杂数据消费应用的灵活支持。


图片来源:Airbyte 官网

那何为语义层呢?从概念上理解,语义层可以视为任何数据表示层(BI、算法应用、数据应用)和数据源之间的转换层。转换层包括许多功能,例如集成数据源、对指标建模以及通过将指标转换为 SQL、REST 或 GraphQL 来与数据消费者集成。

语义层是位于数据和业务用户之间的翻译层。语义层将复杂数据转换为可理解的业务概念。通过将业务术语翻译成底层数据库可以理解的格式,语义层允许业务用户使用他们熟悉的术语访问数据。

例如,不同企业和业务部门对 “活跃用户”或“付费客户”都有不同的定义,语义层允许在整个公司范围内存在这些差异,然后在统一语义层集中定义管理这些数据,而不是在每个 BI 工具中定义三个不同的版本。如果指标定义需要更改,使用语义层只需更改一次,便可实现所有数据消费的应用更新。因此,通过统一语义层的构建对现代数据分析的价值是:

  • 在业务和(数据)工程师之间架起了一座桥梁,节省内部反复沟通、减少数据开发工作,最终提升效率和业务响应。

  • 统一企业的所有业务口径逻辑定义,将DRY原则应用于 BI 工具和数据堆栈、可以轻松跟踪关键指标。

  • 语义层通过承担数据建模和指标开发来满足分析师的需求,从而提高了数据仓库的性能,降低了数据分析处理成本。

三、滴普科技敏捷数据分析平台解决方案

作为湖仓一体数据智能基础软件独角兽,滴普科技在服务各客户的过程中,深入了先进制造、生物医药、商品流通、金融科技等多个行业的客户的数据分析场景,帮助企业构建更敏捷的数据分析体系,在多个客户业务领域实现智能化运营的成功转型。

DataSense是滴普科技推出的新一代数据分析平台,基于统一业务语义方法论,提供无代码的数据工厂Metric Store提升数据资产开发效率,同时面向数据消费提供四大类Link+组件能力形成数据价值的多场景闭环,为企业各类业务应用提供一站式数据分析平台。

图片来源:滴普科技

那么,你所处的行业面临什么样的数据分析挑战?滴普科技愿意一起探讨、携手让数据栩栩如生,并为下一代智能数据分析能力构建提供产品和服务支持。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69989672/viewspace-2942820/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
滴普科技拥有多位数据专家,在湖仓一体技术上形成了专业的产品技术和实践能力,将为各位技术开发者们提供更加前沿的技术思想及技术内容。

注册时间:2023-03-29

  • 博文量
    10
  • 访问量
    7516