首页 > 大数据 > 数据挖掘 > 打造数字海通,实现数据价值的基础设施构建之旅
文 / 海通证券股份有限公司软件开发中心副总经理(主持工作) 陆颂华
海通证券股份有限公司运营中心副总经理 王春
随着互联网、物联网和大数据技术的不断进步,企业持续产生和累积了大量数据。数字经济时代数据已成为证券公司的重要生产要素,通过发挥数据价值,企业可以突破传统界限,将数据转化为独特的竞争优势。数据价值发挥的基础是进行数据治理,梳理企业数据资产,进而深入地分析和应用数据,最终发挥数据生产力,对于企业的决策支持、业务创新、客户体验、风险管理等具有极其重要的价值。

海通证券股份有限公司软件开发中心
副总经理(主持工作) 陆颂华
数据价值实现的源头活水
数据作为数字经济时代最核心的生产资料,必须从源头上保障可见、可用、好用,最终实现用好数据,达到数据资产化。企业在经营过程中各类数据产生和汇聚不断提速,所采集的数据不再像过去一样以结构化数据为主,非结构化数据(系统运行日志、员工操作记录等,外部的新闻、研报、图片、视频、语音等)的占比日益提高,整体逐渐过渡到结构化、非结构化数据并存的局面,数据资源不断丰富、多样。海通证券数据价值发挥整体框架如图1所示。

图1 海通证券数据价值发挥整体框架
1.数据采集与汇聚。数据价值实现的前提是获取多元异构多模态数据。随着互联网与物联网数据的大量涌入,数据来源、数据形式和数据应用模式更加复杂,特别是在行业数字化转型大势下,各家公司的业务和数据形态也发生了不小变化,推动数据采集架构设计更加灵活。数据汇聚需支持多样化数据的全方位采集,支持多类型数据库、不同业务系统来源数据的汇集。海通证券使用易扩展、高可用的技术框架,合理接入第三方合作机构的外部数据,完善数据采集机制,实现更广泛地集中采集、加工半结构化、非结构化数据,为经纪、投行、投研、资管等业务领域提供数据底座,赋能业务发展。
2.数据清洗与质量保障。数据价值实现需要高质量的数据。海通证券将数据质量工作贯穿到数据的整个生命周期,明确在数据定义、生成、采集、整合和应用中各个阶段相关部门的工作职责和追踪机制。建立了贯穿全流程的数据质量评价体系和监测系统,及时发现和处理数据质量问题。定期进行数据质量满足度评估,总结质量问题,开展整改工作。具体而言:一是在数据清洗与校验方面,及时梳理数据缺失情况,必要时依据业务管理办法使用人工增采数据等方法弥补缺失。二是全面梳理数据间的勾稽关系,建立总分核对、多源对比等校验机制,防范数据获取时的采集、传输或计算错误。三是将数据根据体系或各种业务主题进行整理,使得各业务板块能够认识其辖属范围内的数据并进行灵活使用。对原先分散、零乱、标准不统一的数据进行全面梳理,将原始数据转化为价值密度更高的形式,为后续经营管理和决策分析提供可靠的数据基础。
3.数据存储和应用。数据价值实现离不开高效安全的数据存储。海通证券重塑数据架构,根据业务场景研发了支持多样性存储的高性能计算框架,提升海量数据存储技术水平和数据实时分析计算能力。通过统一数据存储体系,实现跨业务条线多样化数据的高效存储。通过流计算技术,打造高性能、高扩展性的分布式实时计算引擎,并结合各项数据管控措施,提升数据管理水平。在加强数据安全保护方面,有序推进数字资产盘点和业务数据的分类分级工作,并面向敏感业务领域构建了严格的认证、鉴权和脱敏流程。一是采用用户统一编码,实现了数据服务的统一管理、统一鉴权与统一交互。二是引入熔断、降级等技术,实现了对异常流量、异常服务接口的智能控制和服务治理。三是通过使用服务链路追踪技术,分析服务调用路径,及时发现服务的安全隐患和技术瓶颈。四是结合数据分类分级、数据敏感字段发现等技术,实现了对敏感数据的脱敏和权限控制,确保数据安全和客户隐私数据的有效保护。五是探索基于联邦学习的数据共享模式,实现集团内部在满足用户隐私保护、数据安全和法律法规要求的前提下,共享和使用数据。
数据价值实现的基础设施
面对复杂的数据来源和多样化的需求,企业内部提供了多种数据支持与服务,但各数据生命周期涉及众多角色分工和知识壁垒,以及跨部门的合作和协调,这都影响了数据的流通。为解决这些难题,海通证券规划并建设了数据资产管理与服务平台,作为公司数据类应用服务的统一入口,衔接各应用服务模块。同时考虑不同级别、不同角色的参与互动,建设数据资产、数据分析、数据治理、数据百科等功能,方便用户查询和使用准确的数据。这些功能激发员工深入理解并使用数据、积极参与数据的治理和应用,形成了企业数据价值链,确保数据价值充分实现。
1.数据资产管理与服务平台建设思路。针对公司在数据人才队伍、资源投入以及业务人员对数据管理的责任意识和能力等方面的现状,海通证券采取统筹规划、分步实施和速赢原则。数据资产管理与服务平台建设初期,功能设计并未追求大而全,而是从价值实现的角度出发,聚焦数据价值,优化现有管理流程。随着相关数据管理能力的提升,平台逐步迭代完善并优化相关功能,打造成开放式数据生态体系,将数据变为资产并服务于业务,数据来源于业务并反哺业务。
具体实施策略,首先从数据应用出发,整合原有的数据应用平台,并新增模板查询等新功能,将数据能力跨部门输出,满足各类用户在不同场景下的数据使用需求,尽可能让更多用户使用数据。同时,随着公司“人人都是数据分析师”计划的推进,逐步开始构建数据资产类模块,如数据字典、指标管理、标签管理等。最后建设那些专业性强、受众范围较小的数据治理模块,如数据标准、数据质量、数据生命周期、元模型等。
2.数据资产管理与服务平台主要功能。平台包含数据资产、数据服务、数据百科、数据治理等核心模块,如图2所示。数据资产模块展示数据字典、数据指标、外部数据字典、子公司数据字典等公司核心数据资产,并提供便捷的查询功能,方便业务问数据、看数据。数据分析模块为不同背景的用户提供了适用于不同场景的数据分析工具或入口,如数据查询、报表市场、模板查询等。数据治理模块还提供了数据质量、数据标准、数据生命周期等子模块,为公司数据治理、数据应用工作的深入展开提供了有力抓手。数据百科模块提供了制度、数据、技术、流程等知识库,用户可自助查询相关知识。另外,还有数据产品模块,提供了公司各类数据产品和应用的快捷入口,满足用户不同场景下的数据应用。

图2 数据资产管理与服务平台功能架构
3.数据资产管理与服务平台核心价值。通过建设数据资产管理与服务平台,实现对数据资产的全面管理和监控,达到数据资产的规范化、标准化和流程化,提高数据的质量和可靠性。同时,该平台还可以对数据进行分类、分级和标签化管理,保障核心数据的安全。平台还可为企业的决策提供有力支持。通过对数据的分析、挖掘和处理,可以快速获取数据背后的信息和趋势,为企业的战略规划、市场分析、产品研发等方面提供数据支持。
首先,平台打通了数据价值链中的障碍。过去,由于不同角色工作人员之间的沟通和协作不畅,导致数据链路不通畅,数据价值难以得到充分挖掘和利用。现在,所有的工作人员都可通过平台实现及时、有效的沟通和协作,真正打通数据价值链中的各个环节。以数据采集为例看平台疏通数据价值链的堵点,普通用户或数据分析师在平台对数据字典进行查询的过程中发起数据采集需求,流程会自动流转至数据开发人员确认,然后经过数据管理人员审核,数据运维人员赋权,最终由数据开发人员完成采集。整个采集过程线上流转,规范有序,避免了各环节线下沟通情况,提高了数据采集工作的效率和用户体验。
其次,平台解决了跨部门数据共享的难题。通过自主研发模板查询功能,具备业务知识和一定数字化能力的数据分析人员,可编写脚本制作查询模板,通过相应的审批流程,将模板发布至模板超市。其他人员可在模板超市中浏览并申请该模板的查询权限,通过相应的审批后可查看模板执行结果。如为周期性的需求,还可预约周期性执行模板查询。这样一方面在部门内、跨部门输出数据能力,提升脚本的复用程度,有效减少重复建设情况;另一方面,公开展示的模板查询脚本,可作为相关领域数据知识库使用。
最后,平台实现对数据资产的全面管理和监控,实现数据在生命周期全过程中的高效流转和充分利用。对于上游数据变更的影响性分析,用户可在平台中利用数据血缘功能,清晰直观地进行影响性评估,也可向上进行上游的血缘分析。用户还可以在数据字典模块订阅目标表,如该表发生变动,平台会自动以邮件等形式通知用户,以便用户及时获悉并评估影响,进而保障数据服务的准确性。
数据价值实现的组织保障机制
企业要想发挥数据价值,必须投入大量资源构建一条稳健可靠的数据价值链。这条价值链不仅需要保证数据的可靠性和可用性,还要充分发挥数据的潜力。同时,企业要想成功地实现数智化驱动,离不开管理层的支持、人才队伍的培养,以及企业内部数据文化的建设。这些要素都是企业发挥数据价值的必要条件。
1.高屋建瓴的数据顶层战略。数据资产管理与服务能力已成为企业竞争的重要一环,海通证券秉承“集团化、国际化、信息化”的发展战略,在“十四五”科技发展规划中明确了提升数据资产管理与服务能力的工作任务。在摸清数据资产的基础上,以管理和服务为目标,构建了完善的数据资产管理体系,不断拓展数据资产管理与服务平台的范围,建立了数据资产全生命周期运营机制。同时,积极提升数据资产整体运营能力,形成激活数据资产价值的核心引擎。
2.高素质的数字化人才队伍。数据是业务与技术的交汇点,拥有业务和数字化能力的复合型人才队伍是企业实现数智驱动的基石。海通证券非常重视数据类复合型人才的培养,持续优化数据团队的组织架构,通过构建业务技术双融合团队、推广“人人都是数据分析师”计划,促进公司前、中、后台员工参与数据管理与应用,探索“数字+业务”复合型人才培养机制,形成完整的数据流和价值链。
3.敏捷融合的数据文化。海通证券根据不同岗位的特点,设置了多样化且内容丰富的培训体系、宣传活动和竞赛,以帮助员工充分理解数据的价值,并学会利用数据支持业务决策和创新。同时,在安全合规的前提下,打破部门壁垒,促进跨部门的交流与合作,使数据在企业内部流通更加流畅。通过长期不懈的努力,推动数据文化深深植根于每一位员工心中,为充分发挥数据价值奠定软性基础。
从数据资源化到数据资产化,任重道远。海通证券将持续建设企业数据价值链,始终遵循公司的数据战略,从数据工作的目标出发,从数据价值发挥的角度考虑,结合实际情况,着力提升公司的数据使用能力和数据管理责任意识,推动公司数字化转型。数据价值的发挥一方面以数据资产管理与服务平台作为重要抓手,将数据管理与数据应用工作融合,将数据管理理念嵌入数据应用和业务推进发展中,使数据流通链路更加畅通。另一方面形成数据文化及对人才的培养和宣贯也至关重要。数据人才的核心价值在于数据的“管理”和“应用”两个方面,秉持以应用促进管理的工作理念,可以促进数据管理与数据应用的高效衔接。
来自 “ 金融电子化 ”, 原文作者:金融电子化 ;原文链接:https://mp.weixin.qq.com/s/xQzLq0NXgqG2xZJZB2tCHg,如有侵权,请联系管理员删除。