ITPub博客

首页 > IT基础架构 > 服务器/存储 > 企业数据湖正在从“存起来”走向“用起来”

企业数据湖正在从“存起来”走向“用起来”

服务器/存储 作者:陶然陶然 时间:2026-09-24 09:46:05 0 删除 编辑

导语:过去十年,企业数据湖解决的是“把数据存下来”的问题;而随着湖仓一体、对象存储底座、元数据管理与计算存储分离等技术的成熟,以及 AI 训练对数据供给提出全新要求,数据湖正在被迫回答一个更难的问题——如何让数据真正被用起来。

一、从“数据沼泽”到“数据资产”的十年

企业数据湖的早期叙事并不复杂:用一套低成本、可扩展的存储系统,把来自业务系统、日志、传感器、外部接口的原始数据先集中收拢,等需要时再分析。这个思路在存储成本上极具吸引力,也让“先存后治”成为很多企业的默认路径。

但现实很快给出了反馈。当数据只进不出、缺少治理、缺少元数据描述、缺少统一权限时,数据湖很容易退化为“数据沼泽”——数据确实存下来了,却难以被找到、被信任、被复用。于是,过去几年行业的重心开始从“存”转向“管”和“用”:湖仓一体试图把数据仓库的事务能力、Schema 约束与数据湖的开放存储结合起来;元数据管理从附属功能上升为核心基础设施;计算存储分离则让存储层和计算层各自独立演进,避免资源被单一 workload 绑死。

这一转向的本质,是企业不再满足于“我有多少数据”,而是追问“这些数据能支撑多少决策、多少模型、多少产品”。

二、湖仓一体:不是替代,而是缝合

湖仓一体常被误解为“用数据湖取代数据仓库”,但从技术演进看,它更像是在两者之间做缝合:在开放存储之上提供表格式、事务、Schema 演进和时间旅行等能力,让数据湖具备仓库级的可靠性,同时保留对多引擎、多格式的开放支持。

依据现有素材判断,湖仓一体的价值主要体现在三个层面:

  • 对数据工程团队:减少在湖与仓之间反复搬运数据的成本,降低链路复杂度。
  • 对分析团队:在同一份数据上获得更接近仓库的查询体验,减少“数据对不上”的信任问题。
  • 对平台团队:以开放格式为底座,避免被单一厂商或单一引擎锁定。

需要强调的是,湖仓一体并不是一个可以“一键开启”的产品功能,而是一套围绕表格式、元数据、权限和计算调度的系统工程。它的落地效果,往往取决于企业是否愿意在治理和元数据上持续投入。

三、对象存储底座:数据湖的“地基”正在变厚

数据湖的底层几乎都建立在对象存储之上。对象存储以扁平命名空间、高持久性、按量计费和近乎无限的扩展能力,成为海量数据的默认选择。随着数据湖规模从 TB 级走向 PB 级甚至更大,对象存储底座本身也在被重新审视。

从媒体视角看,几个趋势值得关注:

  1. 存储与计算解耦成为常态。计算资源可以按需拉起、按需释放,存储则长期驻留,这种模式让成本结构更清晰,但也对元数据服务和数据访问延迟提出更高要求。
  2. 对象存储不再只是“冷底座”。缓存层、本地 SSD 加速、分层存储等机制,正在让对象存储承担更多热数据访问场景。
  3. 多协议访问需求上升。同一份数据可能被 SQL 引擎、Spark、Flink、AI 训练框架等不同系统访问,协议兼容性直接影响数据能否“被用起来”。

换句话说,对象存储的竞争,已经从“每 GB 多少钱”转向“每份数据能被多少种计算高效消费”。

四、元数据管理:从“目录”到“中枢”

如果说对象存储是数据湖的地基,那么元数据就是数据湖的神经系统。没有元数据,数据只是字节;有了元数据,数据才有上下文、有血缘、有权限、有生命周期。

当前元数据管理正在发生几个明显变化:

  • 从技术元数据走向业务元数据。表名、字段类型只是起点,业务含义、负责人、数据质量标签、使用热度等,才是让数据被复用的关键。
  • 从静态目录走向主动服务。元数据不再只是给人看的目录,而是被查询引擎、调度系统、权限系统、AI 训练平台共同调用的服务。
  • 从单点工具走向统一治理入口。血缘、影响分析、合规审计、成本归因,都开始围绕元数据展开。

依据现有素材判断,元数据管理的能力上限,很大程度上决定了一家企业数据湖“用起来”的上限。因为找不到、看不懂、不敢用的数据,本质上等于不存在。

五、计算存储分离:弹性背后的工程账

计算存储分离是云原生数据架构的核心特征之一。它让存储层专注持久化和成本,计算层专注性能和弹性,从而支持多引擎并存、按需扩缩容和故障隔离。

但分离也带来新的工程挑战:

  • 数据本地性下降。计算节点不再天然靠近数据,网络带宽和延迟成为关键变量。
  • 元数据服务压力集中。当大量计算任务同时访问同一份元数据,元数据服务的稳定性和扩展性直接决定整体体验。
  • 成本模型更复杂。存储便宜不等于总成本低,计算、网络、缓存和跨区流量都需要纳入考量。

因此,计算存储分离不是简单的架构口号,而是一笔需要持续优化的工程账。企业需要根据自身 workload 特征,在弹性、性能和成本之间找到平衡点。

六、AI 训练给数据湖出的新考题

如果说 BI 分析对数据湖的要求是“查得到、查得准”,那么 AI 训练提出的要求则更苛刻:喂得快、喂得稳、喂得可复现。

从数据湖视角看,AI 训练带来的新要求至少包括:

  1. 高吞吐顺序读取。训练任务往往需要对海量样本进行多轮迭代,随机小文件读取会严重拖慢 GPU 利用率。
  2. 数据版本与可复现。模型训练需要明确“这一版模型用的是哪一版数据”,否则实验结果无法复现,问题也无法回溯。
  3. 多模态数据统一管理。文本、图像、音频、视频等非结构化数据,对元数据、索引和访问接口提出不同于结构化数据的要求。
  4. 训练与推理的数据闭环。推理产生的数据如何回流、如何标注、如何进入下一轮训练,正在成为数据湖的新课题。
  5. 权限与合规。训练数据往往涉及敏感信息,数据湖需要在供给 AI 的同时,保证访问可控、使用可审计。

这些要求叠加在一起,使得数据湖不再只是“分析型数据平台”,而正在成为“AI 数据基础设施”的一部分。依据现有素材判断,未来数据湖的竞争力,很可能体现在它能否同时服务好传统分析与 AI 训练这两类差异巨大的 workload。

七、趋势判断:数据湖的下一站

综合来看,企业数据湖正在经历一次从“存储中心”向“使用中心”的迁移。几个趋势值得持续观察:

  • 开放格式成为共识。无论是湖仓一体还是 AI 数据供给,开放格式都是避免锁定的前提。
  • 元数据成为兵家必争之地。谁掌握了元数据,谁就掌握了数据发现、治理和调度的入口。
  • 对象存储持续进化。它不再只是廉价底座,而是需要同时满足成本、吞吐和协议兼容的综合平台。
  • AI 与数据湖加速融合。训练数据管理、特征存储、向量索引等能力,正在被纳入数据湖的讨论范围。
  • 治理从“合规负担”变成“使用前提” 。没有治理,数据越多越乱;有了治理,数据才可能被放心地用起来。

结语

“存起来”是数据湖的上半场,“用起来”是下半场。上半场比的是谁存得多、存得便宜;下半场比的是谁能让数据被更快找到、更可信地使用、更高效地喂给模型。

对于企业而言,数据湖不再是一个一次性建成的项目,而是一项需要持续运营的能力。湖仓一体、对象存储、元数据管理和计算存储分离,都是这项能力的不同侧面。真正决定成败的,不是某一项技术是否先进,而是这些技术能否协同起来,让数据从“躺在湖里”变成“跑在业务和模型里”。


生成标记:本文由 ITPUB 文章生成平台基于已选素材整理生成。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/28285180/viewspace-3183745/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-06-08

  • 博文量
    1562
  • 访问量
    2544762