光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。

光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。

IBM Research 的科学家们宣布了芯片组装和封装方面的一系列新进展，称为共封装光学（co-packaged optics），有望通过将光链路连接引入设备内部以及用于训练和部署大语言模型的数据中心墙壁内，来提高能效并提升带宽。这一新工艺有望将芯片边缘可连接的光纤数量（即所谓的“海滨密度”）提高六倍。随着人工智能对带宽的需求日益增长，这项创新将利用全球首个成功的聚合物光波导，将光学的速度和带宽一直带到芯片边缘。

早期结果表明，从传统电互连切换到共封装光学将大幅降低训练 AI 模型的能源成本，加速模型训练，并显著提高数据中心的能效。

当今先进的芯片和芯片封装技术通常使用电信号来驱动微电子中的晶体管，这些晶体管为手机、计算机以及我们几乎所有的日常活动提供动力。数十年来，晶体管本身已经缩小了许多倍，使我们能够在给定空间内集成更多能力。但即使是最强大的半导体组件，其速度也受限于它们之间的连接。

这些连接使我们能够在日常生活中无缝使用电子设备——比如开车时，从座椅到轮胎，几乎每个系统中都包含芯片。“甚至你的冰箱里也有电子设备来帮助一切正常运转，”IBM Research 工程师 John Knickerbocker 说道，他是一位专注于小芯片（chiplets）和先进封装的杰出工程师。

不过，Knickerbocker 和他的团队正在思考更小的尺度。由于光连接器成本更低、能效更高，它们是改善数据中心内芯片间和设备间通信性能的理想选择，因为在数据中心，生成式 AI 计算正要求越来越高的带宽。

“大语言模型使 AI 如今在整个科技行业非常流行，”Knickerbocker 说。“由此带来的 LLM（大语言模型） 增长——以及更广泛的生成式 AI——正要求芯片和数据中心之间的高速连接呈指数级增长。”

虽然光缆可以将数据传入和传出数据中心，但内部发生的事情则是另一回事。即使是当今最先进的芯片，仍然通过承载电信号的铜线进行通信。从芯片边缘连接到电路板，再从电路板穿过数英里的光缆，然后回到另一个模块并连接到远程数据中心的另一块芯片，这需要消耗相当多的能量。无论你是在传输数据还是语音通话，在所有这些都是节点上无缝发送信号都需要消耗能量。服务器内低带宽的线缆连接也会拖慢 GPU（图形处理器） 加速器，使其在等待数据时处于空闲状态。

电信号使用电子来提供功率和信号通信，从一个设备传输到另一个设备。另一方面，光学技术已经用于通信技术数十年，它使用光来传输数据。光纤电缆细如发丝，有时长达数千英里，每秒可传输数百太比特的数据。光纤捆绑在一起并绝缘在海底电缆中，承载着各大洲之间流动的几乎所有全球商业和通信流量。

Knickerbocker 及其同事发现，将光连接的能力引入电路板并一直延伸到芯片，与电连接相比，能耗降低超过 80%——从每比特 5 皮焦耳降至不到 1 皮焦耳。在数千块芯片和数百万次操作中，这意味着巨大的节省。

IBM Research 的小芯片与先进封装团队正在寻求通过共封装光学来简化这一系统，这种方法有望提高芯片内部以及芯片之间的通信效率和密度。将光连接引入集成电路板的一部分工作是内置发射器和光电探测器来发送和接收光信号。光纤直径约为 250 微米，大约是人类头发宽度的三倍。这听起来可能很小，但四根光纤加起来就是一毫米，随着毫米数的累积，芯片边缘的空间很快就会用完。

在 IBM Research 的科学家看来，解决方案在于下一代光链路，它能实现更密集的连接：聚合物光波导。这种器件使得高密度光纤束可以直接排列在硅芯片边缘，从而能够通过聚合物光纤直接向外通信。高保真光连接要求光纤与连接器之间的公差精确到半微米或更小，该团队现已实现了这一目标。

得益于这些方法，该团队已经证明了光学通道 50 微米间距的可行性，该通道耦合到硅光子波导，并使用标准组装封装工艺连接到可插拔的单模玻璃光纤（SMF）阵列。与传统的 250 微米间距相比，这代表了 80% 的尺寸缩减，但测试表明他们可以进一步缩小到 20 或 25 微米，这将对应 1,000% 至 1,200% 的带宽增长。

光子集成电路（PIC）到 SMF 光链路的插入损耗通常为每通道 1.5 至 2 分贝（dB），但在本例中，已证明每个完整光链路低于 1.2 dB。此外，使用 18.4 微米间距光波导的演示显示串扰低于 30 dB，表明这种共封装光学技术可扩展到用于芯片互连的极高带宽密度。

这意味着，通过借鉴电话行业的经验，他们可以在每个光学通道上传输多个波长的光，这有可能将带宽增长至少提升 4,000%，最高可达 8,000%。

除了光纤到芯片和光纤到板的连接之外，他们还在用高强度聚合物增强传统玻璃光纤，这一举措提高了耐用性和效率，但也需要对光学长度进行高级建模模拟，以确保光能够在多个组件中传输而没有任何损耗——这就是所谓的“共封装”。

这一开发过程还包括行业标准的可靠性应力测试，以确保所有光学和电气链路在经历制造和应用使用过程中所见的应力时仍能正常工作。组件要经受 -40°C 至 125°C 的温度范围，以及机械耐久性测试，以确认光纤能够承受弯曲而不会断裂或导致数据丢失。这项测试在位于纽约州约克敦高地的 IBM Research 全球总部以及 IBM 位于魁北克省布罗蒙的工厂进行。

“了不起的不仅是我们为模块内通信实现了这种巨大的密度提升，我们还证明了这与过去光链路未能通过的应力测试兼容，”Knickerbocker 说。IBM 的模块旨在与标准电子无源先进封装组装工艺兼容，这可以降低生产成本。通过这项创新，IBM 可以在其布罗蒙工厂生产共封装光学模块。

该团队正在制定这项技术下一步发展的路线图，包括征求 IBM 客户的反馈，并使共封装光学能够满足生成式 AI 计算业务需求。“我们还将与组件供应商合作，使他们为下一步技术做好准备，”Knickerbocker 说，“并使他们具备支持量产而非仅原型的能力。”

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：IBM Research Blog

原创地址：https://research.ibm.com/blog/co-packaged-optics-to-supercharge-generative-ai-computing