ITPub博客

首页 > IT基础架构 > 服务器/存储 > HBM 为什么成了 AI 芯片的“卡脖子”环节?

HBM 为什么成了 AI 芯片的“卡脖子”环节?

服务器/存储 作者:陶然陶然 时间:2026-09-21 15:34:13 0 删除 编辑

导语:当算力竞赛从 GPU 核心转向内存墙,HBM(High Bandwidth Memory,高带宽内存)从一颗“配套芯片”变成了决定 AI 加速卡能否量产的关键变量。它既不是最贵的部件,也不是最显眼的部件,却常常是整条供应链上最难扩产、最难替代的一环。

一、从“内存墙”说起:算力越快,内存越拖后腿

过去十几年,处理器算力的增长速度长期快于内存带宽的增长速度,这一落差被业界称为“内存墙”。在传统 DDR 内存体系下,GPU 或 AI 加速器每做一次计算,都要等待数据从内存搬运过来;当模型参数从百万级膨胀到千亿级,数据搬运的能耗和时间甚至超过了计算本身。

HBM 的出现正是为了拆掉这堵墙。它通过硅通孔(TSV)把多层 DRAM 裸片垂直堆叠,再用硅中介层(Interposer)把内存与 GPU 封装在同一基板上,从而在极短的物理距离内实现远超传统 DDR 的带宽。对训练大模型、推理长上下文这类“带宽敏感型”负载来说,HBM 的带宽和能效几乎直接决定了加速卡的实际表现。

也正因如此,HBM 不再是“可选配件”,而是 AI 芯片设计里必须提前锁定的核心资源。

二、堆叠工艺:HBM 难在哪里

HBM 的技术门槛,集中体现在“堆叠”二字上。

第一是 TSV 与键合。要在极薄的 DRAM 裸片上打出成千上万个微孔并填充导电材料,再把多层裸片精确对准、键合在一起,任何一层出现良率问题,整颗堆叠体都可能报废。堆叠层数越高,累积良率压力越大。

第二是散热与功耗。多层裸片垂直堆叠后,热量被“夹”在中间,散热路径变长。AI 加速卡本身功耗已经很高,HBM 的散热设计必须与封装、基板、系统散热协同考虑。

第三是先进封装产能。HBM 需要与 GPU 通过 2.5D/3D 封装集成,这类先进封装产线本身扩产周期长、投资大,往往与 HBM 堆叠产能形成双重瓶颈。

换句话说,HBM 的难点不只在 DRAM 制造,而在“DRAM + 堆叠 + 先进封装”的整条工艺链。任何一环跟不上,都会传导为 AI 芯片的交付延迟。

三、带宽与容量的权衡:不是越大越好

在 HBM 的选型上,带宽和容量常常是一对矛盾。

带宽决定了数据“搬得多快”,容量决定了“能装多少”。对大模型训练而言,两者都重要:带宽不足会让计算单元空转,容量不足则会导致频繁换入换出,同样拖慢整体效率。但受限于堆叠层数、封装尺寸和成本,单颗 HBM 很难同时把带宽和容量推到极致。

于是业界出现了不同的产品取向:有的型号强调更高带宽,适合带宽敏感的训练场景;有的型号强调更大容量,适合需要驻留大量参数的推理场景。对 AI 芯片厂商来说,选择哪种 HBM,本质上是在性能、成本、功耗和供应可得性之间做取舍。

依据现有素材判断,这种权衡短期内不会消失,反而会随着模型规模继续放大而更加尖锐。

四、三强格局:SK 海力士、三星、美光

HBM 市场长期由三家存储大厂主导:SK 海力士、三星和美光。

SK 海力士在 HBM 领域布局较早,凭借先发优势和与主要 GPU 厂商的深度绑定,在 AI 浪潮中占据了有利位置。三星则依托其庞大的 DRAM 产能和垂直整合能力,试图在 HBM 上快速追赶,同时把先进封装作为差异化抓手。美光则在部分 HBM 世代中凭借能效和产品节奏争取份额。

三家的竞争,表面上是产品参数之争,实质上是产能、良率、客户认证和封装能力的综合较量。HBM 的客户认证周期长,一旦进入某款 AI 芯片的供应链,替换成本很高,这使得先发者容易形成“滚雪球”效应。

对下游 AI 芯片厂商而言,过度依赖单一供应商存在风险;但要在短时间内切换供应商,又受制于认证和产能。这种结构性紧张,正是 HBM 被视为“卡脖子”环节的重要原因。

五、国产 HBM:进展与挑战

国产 HBM 是当前国内半导体产业最受关注的方向之一。

从公开信息看,国内存储厂商和科研机构已在 HBM 相关技术上持续投入,包括 TSV、堆叠键合、先进封装等关键环节。但必须客观指出:HBM 不是单点技术突破就能解决的问题,它考验的是从 DRAM 制造、堆叠工艺到先进封装、再到与 AI 芯片协同设计的系统能力。

依据现有素材判断,国产 HBM 面临的挑战主要集中在几个方面:一是高堆叠层数下的良率与可靠性;二是先进封装产能和设备的配套;三是与国内 AI 芯片的生态适配和客户认证;四是国际供应链环境带来的不确定性。

这些挑战并不意味着没有机会。相反,正因为 HBM 是 AI 芯片的刚需,国产替代的动力和资源投入都在增强。但产业规律决定了这是一场长跑,需要制造、封装、设计、材料等多环节协同推进,而非某一环节的孤军突进。

六、趋势判断:HBM 的瓶颈会缓解吗

从趋势上看,HBM 的重要性只会继续上升。

一方面,AI 模型规模和多模态能力仍在扩张,对带宽和容量的需求没有见顶迹象。另一方面,HBM 的扩产受制于堆叠工艺和先进封装,短期内难以像传统 DRAM 那样快速放量。供需之间的时间差,决定了 HBM 在可预见的未来仍将是紧俏资源。

可能的缓解路径包括:堆叠层数继续提升、封装技术演进、更多供应商进入以及国产 HBM 逐步成熟。但这些都需要时间,且每一步都伴随良率和成本的考验。

结论

HBM 之所以成为 AI 芯片的“卡脖子”环节,不是因为它最贵,而是因为它最难扩产、最难替代、最难在短时间内复制。它把 DRAM 制造、堆叠工艺、先进封装和 AI 芯片设计紧紧绑在一起,任何一环的短板都会放大为整条产业链的瓶颈。

对产业参与者来说,理解 HBM 的关键,不在于记住某一代产品的参数,而在于看清它背后的工艺逻辑和供需结构。谁能在堆叠良率、封装产能和客户协同上建立优势,谁就更有可能在下一轮 AI 算力竞赛中掌握主动权。


生成标记:本文由 ITPUB 文章生成平台基于已选素材整理生成。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/28285180/viewspace-3183354/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-06-08

  • 博文量
    1562
  • 访问量
    2546601