首页 > IT基础架构 > 服务器/存储 > 企业数据湖正在从“存起来”走向“用起来”
导语:过去十年,企业数据湖解决的是“把数据存下来”的问题;而随着湖仓一体、对象存储底座、元数据管理与计算存储分离等技术的成熟,以及 AI 训练对数据供给提出全新要求,数据湖正在被迫回答一个更难的问题——如何让数据真正被用起来。
企业数据湖的早期叙事并不复杂:用一套低成本、可扩展的存储系统,把来自业务系统、日志、传感器、外部接口的原始数据先集中收拢,等需要时再分析。这个思路在存储成本上极具吸引力,也让“先存后治”成为很多企业的默认路径。
但现实很快给出了反馈。当数据只进不出、缺少治理、缺少元数据描述、缺少统一权限时,数据湖很容易退化为“数据沼泽”——数据确实存下来了,却难以被找到、被信任、被复用。于是,过去几年行业的重心开始从“存”转向“管”和“用”:湖仓一体试图把数据仓库的事务能力、Schema 约束与数据湖的开放存储结合起来;元数据管理从附属功能上升为核心基础设施;计算存储分离则让存储层和计算层各自独立演进,避免资源被单一 workload 绑死。
这一转向的本质,是企业不再满足于“我有多少数据”,而是追问“这些数据能支撑多少决策、多少模型、多少产品”。
湖仓一体常被误解为“用数据湖取代数据仓库”,但从技术演进看,它更像是在两者之间做缝合:在开放存储之上提供表格式、事务、Schema 演进和时间旅行等能力,让数据湖具备仓库级的可靠性,同时保留对多引擎、多格式的开放支持。
依据现有素材判断,湖仓一体的价值主要体现在三个层面:
需要强调的是,湖仓一体并不是一个可以“一键开启”的产品功能,而是一套围绕表格式、元数据、权限和计算调度的系统工程。它的落地效果,往往取决于企业是否愿意在治理和元数据上持续投入。
数据湖的底层几乎都建立在对象存储之上。对象存储以扁平命名空间、高持久性、按量计费和近乎无限的扩展能力,成为海量数据的默认选择。随着数据湖规模从 TB 级走向 PB 级甚至更大,对象存储底座本身也在被重新审视。
从媒体视角看,几个趋势值得关注:
换句话说,对象存储的竞争,已经从“每 GB 多少钱”转向“每份数据能被多少种计算高效消费”。
如果说对象存储是数据湖的地基,那么元数据就是数据湖的神经系统。没有元数据,数据只是字节;有了元数据,数据才有上下文、有血缘、有权限、有生命周期。
当前元数据管理正在发生几个明显变化:
依据现有素材判断,元数据管理的能力上限,很大程度上决定了一家企业数据湖“用起来”的上限。因为找不到、看不懂、不敢用的数据,本质上等于不存在。
计算存储分离是云原生数据架构的核心特征之一。它让存储层专注持久化和成本,计算层专注性能和弹性,从而支持多引擎并存、按需扩缩容和故障隔离。
但分离也带来新的工程挑战:
因此,计算存储分离不是简单的架构口号,而是一笔需要持续优化的工程账。企业需要根据自身 workload 特征,在弹性、性能和成本之间找到平衡点。
如果说 BI 分析对数据湖的要求是“查得到、查得准”,那么 AI 训练提出的要求则更苛刻:喂得快、喂得稳、喂得可复现。
从数据湖视角看,AI 训练带来的新要求至少包括:
这些要求叠加在一起,使得数据湖不再只是“分析型数据平台”,而正在成为“AI 数据基础设施”的一部分。依据现有素材判断,未来数据湖的竞争力,很可能体现在它能否同时服务好传统分析与 AI 训练这两类差异巨大的 workload。
综合来看,企业数据湖正在经历一次从“存储中心”向“使用中心”的迁移。几个趋势值得持续观察:
“存起来”是数据湖的上半场,“用起来”是下半场。上半场比的是谁存得多、存得便宜;下半场比的是谁能让数据被更快找到、更可信地使用、更高效地喂给模型。
对于企业而言,数据湖不再是一个一次性建成的项目,而是一项需要持续运营的能力。湖仓一体、对象存储、元数据管理和计算存储分离,都是这项能力的不同侧面。真正决定成败的,不是某一项技术是否先进,而是这些技术能否协同起来,让数据从“躺在湖里”变成“跑在业务和模型里”。
生成标记:本文由 ITPUB 文章生成平台基于已选素材整理生成。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/28285180/viewspace-3183745/ ,如需转载,请注明出处,否则将追究法律责任。