ITPub博客

首页 > 人工智能 > 人工智能 > 微软将把 Azure Maia 系统扩展至数吉瓦级部署 - 微软官方博客

微软将把 Azure Maia 系统扩展至数吉瓦级部署 - 微软官方博客

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑


Azure Maia 200 现已投入生产;Azure Maia 300 将于 2027 年推出

随着我们迈入超级智能时代,Microsoft 正在进入基础设施的新阶段。从 2027 年开始,我们将把 Azure Maia 系列扩展到多吉瓦级部署,使 Maia 成为 Microsoft 产品和服务的主要推理系统。

多代 Azure Maia 计划已成为 Microsoft AI 基础设施战略的基础要素。Maia 200 目前正在为 Microsoft 生产工作负载提供服务,包括 Microsoft Copilot,并支持 MAI 团队开发下一代模型,GitHub Copilot 和 Microsoft Foundry 将在年底前跟进。在这些工作负载中,Maia 200 运行 OpenAI 模型、Microsoft 自有的 MAI 模型以及领先的开源模型系列。来自 Microsoft AI 服务规模的洞察使得硬件系统与软件应用之间能够进行独特的协同设计,以优化企业应用和行业场景中的实际用例。

Maia 300 是一个完整的智能系统,专为当今涌现的新型 AI 工作负载而设计:长上下文推理、延迟敏感的对话体验以及持续的多步骤智能体任务。通过提升整个系统的效率,我们预计 Maia 300 相比领先的基于图形处理器的系统,每兆瓦可多提供 40% 的 token。在完整的 96 加速器配置中,其机架级 token 吞吐量可达 Maia 200 的 7 倍。

Maia 200:驱动 Microsoft 大规模运行的工作负载

Azure Maia 系统围绕 Microsoft 大规模运行的实际工作负载以及我们预计未来几年将构建的模型而设计。由于芯片开发需要数年时间,我们的软件和硬件团队会提前协作,预测架构、规模和能力,并将这些需求转化为更大的内存容量、更高的带宽以及更多作为单一系统运行的加速器。

这种协同工程已经带来了可衡量的效率提升。Maia 200 正在美国、欧洲和澳大利亚部署,与领先的图形处理器基础设施相比,为 Microsoft Teams、Copilot 和 Cowork 体验中的内置 AI 功能提供高达 1.7 倍的每瓦 token 数。

在 Maia 200 上运行我们的 AI 模型和服务的经验直接为 Maia 300 的设计提供了依据。两代产品共同设计,旨在支持 Microsoft 更广泛的 AI 服务:多步骤智能体工作将帮助 GitHub 更高效地提供编码体验;云规模模型服务将帮助 Microsoft Foundry 支持多样化的架构和部署环境;为 MAI 团队提供推理和数据生成;以及延迟敏感的交互将帮助 Dragon Copilot 扩展工作流并减轻临床医生的行政负担。

Maia 300:在每兆瓦内扩展更有用的 AI

AI 正在成为每个应用、工作流和业务流程的基础层。随着企业从聊天体验迈向能够推理、行动和协作的智能体系统,AI 基础设施必须安全、高效地大规模提供智能,同时随着模型和工作负载的演进而持续适应。

作为我们 Azure Maia 计划的第三代产品,Maia 300 采用推理优先架构设计,针对长上下文、内存密集型和解码密集型 AI 工作负载进行了优化。这涉及在云规模上平衡计算、内存带宽、网络和能效。

Maia 300 系统的关键能力包括:

更少的数据移动,更有用的计算:在大规模推理系统中,高效移动数据而非原始计算能力,正日益成为瓶颈。Maia 300 的软件定义数据流架构与 AI 辅助内核优化协同工作,以最大化局部性、减少数据移动,并提升计算、内存和网络资源的利用率。通过将数据流视为首要设计原则,Maia 300 相比传统 GPU(图形处理器) 架构可提供显著的每瓦性能优势。

每一瓦功耗内更高的内存带宽:随着 AI 工作负载日益受上下文和内存限制,Maia 300 提供业界领先的每瓦 HBM 带宽。八个 HBM4 堆栈在 950 瓦 TDP 内提供 18.0 TB/s 的峰值内存带宽,支持高效执行大模型和长上下文工作负载。专用内核支持将片上 SRAM 用作软件管理的暂存区,从而减轻 HBM 压力。

提升效率的芯粒架构:全新的多芯粒架构将计算、内存控制器和 I/O 功能分离,提升效率、可扩展性和成本结构。计算芯粒基于台积电 N2P 工艺节点构建,以最大化每瓦性能。

更大上下文,更丰富智能:通过面向先进低精度格式(包括增强的 MXFP4)进行设计,Maia 300 降低了计算和 KV-cache 存储的内存与带宽需求。其结果是,在相同功耗范围内实现更大的上下文窗口、更高的吞吐量和更高的模型效率。

数据中心规模的纵向扩展网络:Maia 300 将网络视为软件定义数据流架构的无缝延伸。数据流操作并非通过单独的通信层移动数据,而是将计算、内存和网络资源作为单一系统跨越。Maia 加速器之间的高带宽互连针对张量并行进行了优化,而定制 AI 传输可在加速器和机架之间提供高性能、可靠的纵向扩展通信。AI 优化传输利用基于以太网的网络基础设施,实现统一拓扑,可从单个机架高效扩展至数据中心规模部署。

每个机架带来更高 AI 吞吐量:Maia 300 机架系统在 167 千瓦功耗范围内集成 96 个加速器,在高速纵向扩展域中提供 27.6 TB 的 HBM 容量和 1.7 PB/s 的聚合 HBM 带宽。这种密度使 Microsoft 能够从每个机架服务更多并发 AI 交互和更大工作负载,从而提升数据中心容量并改善扩展 AI 服务的经济性。

Maia 300 将于 2027 年开始生产部署。有关 Maia 300 架构细节的更多信息,请阅读我们的技术论文。

Azure Maia 是我们 Frontier Transformation 的核心

未来不会由单一模型、单一芯片或单一创新来定义。模型和芯片选择是我们 Frontier Transformation 愿景的固有组成部分。我们的重点是开发负责任、可负担且可扩展的平台,帮助每个人增强智能,以推动对他们重要的突破性成果。

Microsoft 的独特之处在于,我们能够在一个开放、异构且模型多样化的平台上,从芯片到系统再到智能体进行优化,客户可以信赖该平台来实现其 AI 转型,无论是今天还是未来。该平台是 Frontier Transformation 的核心,而 Azure Maia 是我们扩大访问、加速创新并帮助客户从 AI 中获取更多价值这一方法的基础组件。

下个月,在旧金山及线上举行的 Microsoft Ignite 2026 上,我们期待分享更多关于我们的战略、技术采用趋势以及 Frontier Transformation 成功的信息。

如需了解更多详情、照片和视频,请访问我们的 Maia 300 网站。

Scott Guthrie 负责一系列超大规模云计算解决方案和服务,包括 Azure、Microsoft 的云计算平台、生成式 AI 解决方案、数据平台以及信息与网络安全。这些平台和服务帮助全球各地的组织解决紧迫挑战——并为未来实现转型。


转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:Microsoft AI Blog

原创地址:https://blogs.microsoft.com/blog/2026/10/12/microsoft-to-expand-azure-maia-system-to-multi-gigawatt-deployments/

原文作者:Scott Guthrie;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1199
  • 访问量
    549909