是什么限制了你当前的训练运行：是 GPU（图形处理器）的计算速度，还是你向 GPU 传输数据的速度？对于越来越多的工作负载而言，答案是后者。ROCm 10.1 以这条路径为先导，并在其背后带来了一整套编译器、库和工具方面的工作。

原始加速器吞吐量仍然是一个限制因素，但随着 AI 模型和 HPC 数据集规模扩大，一个新兴瓶颈正在浮现：如何为这些加速器供给数据。检查点、键值缓存和模型参数如今已超出最靠近 GPU 的快速内存容量，而从存储到设备的数据路径成为最大的瓶颈。ROCm 10.1 通过对其 AMD Infinity Storage 技术和 HIP 运行时的实质性改进来应对这一转变。hipFile 获得了额外能力，可在存储与 GPU 之间直接顺畅移动数据。HIP 运行时新增了 NUMA 感知的主机内存分配，可将内存放置在靠近使用它的计算资源的位置。

除数据路径之外，ROCm 10.1 还推进了开发者工作流。AMD 不断扩充的 AMD Skills 目录，辅以 ROCm CLI，为编码智能体提供了标准化集成，用于在 AMD 硬件上设置本地 AI、诊断 ROCm 问题并优化 LLM（大语言模型）推理。

基于 AMD Infinity Storage 的下一代存储与 I/O #

随着模型参数、检查点和键值（KV）缓存不断增长，存储日益成为瓶颈，使 GPU 得不到数据供给，而不是获得数据供给。AMD Infinity Storage（AIS）在 ROCm 7.14 中首次亮相，作为一个库，它可在存储与内存之间直接移动数据，而无需经由 CPU 内存中转。

AMD 在此基础上构建，通过三项 hipFILE 改进来减少不必要的数据移动并提高加速器利用率：

异步快速路径后端。读写请求现在直接在 HIP 流上运行，跳过数据传统上经过的主机内存暂存步骤。这降低了延迟并提高了检查点引擎和 KV 缓存卸载系统的持续吞吐量，从而改善端到端响应能力。
批量 I/O API（应用程序编程接口）。一次提交多个文件请求，并通过内部工作线程池进行分发，从而提高大型训练数据集和数据密集型推理流水线中存储设备的利用率。
多层 I/O 统计。逐步更丰富的 hipFILE 遥测数据流向 ROCm 性能分析工具，使判断工作负载受限于计算、内存还是数据交付变得更加容易。

使用 HIP 实现 NUMA 感知的主机内存分配 #

如果数据必须跨插槽传输才能到达使用它的计算资源，那么增加更多 CPU 和 GPU 并不会自动提升性能。ROCm 10.1 通过扩展 HIP 虚拟内存管理来帮助减少这一开销，使应用程序能够在特定的 CPU NUMA 节点上分配主机内存，而不是回退到通用内存池。像 RCCL 这样的库可以利用这一点来构建 NUMA 本地、零拷贝的通信流水线，使数据移动保持在需要它的计算资源附近，从而减少插槽之间不必要的流量。

ROCm CLI 与 AMD Skills #

ROCm 10.1 还带来了 ROCm CLI v1.0.0，它提供了一个单二进制工具，用于在 AMD GPU 上安装、配置和运行本地 AI 工作负载。AMD 为 ROCm 10.0 和 ROCm 10.1 都添加了一流支持，包括自动检测适用于 vLLM 的兼容 flash-attn 和 amd-aiter wheel。rocm install 命令开箱即用地处理新的 ROCm 10 “next” 包布局，并提供一个标志以启用完全非交互式安装，适用于脚本化或 CI 环境。全屏 TUI 仪表板提供实时 GPU 遥测以及模型服务和聊天功能。ROCm CLI 可在 Linux、Windows 和 WSL2 上使用。

CLI 是开发者直接运行的工具，而 AMD Skills 将同样的 ROCm 专业知识带给 AI 编码智能体。每个技能将经过验证的配置打包为标准化集成，使 Claude Code 和 Codex 等智能体能够一致地应用。AMD 重点介绍了此版本中新增的两个技能：

quark-install 安装或验证 AMD Quark，使用与您的加速器匹配的 PyTorch 构建（PyPI、wheel 索引、本地 wheel 或源码），然后检查导入、内核和 quark-cli。
quark-torch-llm-ptq 对 PyTorch / Hugging Face LLM 运行训练后量化。它检查模型，帮助您选择方案（FP8、INT4 等），并生成经过验证的量化模型。

每个技能由其描述产品背后的团队拥有并管理版本，随着更多技能落地，该列表预计会不断增长。

开发者工具 #

ROCprofiler-SDK（软件开发工具包）引入了内核重放（目前处于测试阶段），它可以在一次应用程序运行中收集完整的计数器集，而不是为每个计数器组重新运行应用程序。由于 GPU 每次内核调度只能收集有限数量的硬件性能计数器，内核重放会就地重新执行每个调度，并在各次执行之间恢复跟踪的设备内存。ROCprofiler-SDK 还允许 AI 框架分析器（如 PyTorch 的 Kineto 和 Triton 的 Proton）在运行期间的任意点启动和停止。ROCprofiler-SDK 中新增的 PC 采样智能体技能可指导 AI 编码助手在您的应用程序上运行 rocprofv3 PC 采样，并报告热点和停顿原因。

ROCm Compute Profiler 的独立 roofline 报告现在是一个交互式 HTML 页面，您可以在其中隔离单个内核或 roof，并在缓存级别之间切换算术强度轴。其 PC 采样分析现在按内核报告结果，精确到单个指令的采样和停顿计数。对于推理工作负载，新增指南介绍了如何使用 Compute Profiler 对 vLLM 进行分析。

ROCm Systems Profiler 现在在 Linux 上支持 Gorgon Point 1、2 和 3 APU（gfx1150、gfx1152 和 gfx1153），因此您可以针对在这些集成 GPU 上运行的工作负载同时跟踪 CPU 和 GPU 活动。ROCm Optiq 扩展了其统一可视化和分析能力以支持 rocprofv3，使开发者能够在 Optiq 的统一界面中可视化并分析最新的分析数据，同时结合 ROCm Systems Profiler 跟踪和 ROCm Compute Profiler 分析。

LLVM 24 与更快的重新构建 #

ROCm 10.1 将编译器开发迁移到 LLVM 24，带来了来自 LLVM 社区的大量新功能和优化，包括减少大型项目的重新构建时间。amdclang++ 编译器从 LLVM 23 升级到 LLVM 24，提供更新的 C++ 语言支持和社区优化优势。

ROCm 10.1 还通过缓存链接时优化（LTO）在拆分 HIP 设备代码时创建的分区来加速增量构建。因此，小的更改可以重用未更改的分区，而不是从头重新构建它们。

升级说明：如果您从 ROCm 10.0 升级，这是一次重大的编译器版本变更。clang_major 版本宏现在报告为 24。请检查任何与特定编译器版本相关的代码或构建脚本，以及任何直接链接到 libLLVM 的工具。

推进 AI 与数学库 #

ROCm 10.1 还更新了其 AI 与数学库，扩展了内核支持、改进了编译器，并实现了更高效的稀疏运算：

Composable Kernel：AMD 的优化 AI 内核库加速了 Radeon GPU 上的注意力计算，并为其内核调度器引入了更多量化矩阵乘法类型。
MIGraphX：AMD 用于 AI 推理的图编译器将后端编译器从 rocMLIR 替换为 rocMLIRTriton，带来显著的推理性能提升，且模型编译时间通常更快。这一切换还使 MIGraphX 能够受益于 Triton 编译器的持续改进。
rocSPARSE：AMD 的稀疏线性代数库现在可以直接对以 ELLPACK (ELL) 稀疏格式存储的矩阵执行三角求解，无需先进行格式转换。

ROCm SMI 过渡至 AMD SMI #

随着 ROCm SMI（rocm-smi）的弃用期结束，AMD SMI（amd-smi）成为其继任者。AMD SMI 在 Linux 和 Windows 上，无论裸金属还是虚拟化环境，都为 AMD GPU、CPU 和 APU 提供统一的监控与管理体验。建议用户迁移至 amd-smi，它提供：

现代子命令驱动的 CLI
原生 C 库（amd_smi_lib）
一流的 Python、Rust 和 Go 绑定

AMD SMI 还扩展了对容器化环境的可见性，可识别运行在 containerd、CRI-O、Podman、LXC 和 LXD 容器中的 GPU 进程，包括 Kubernetes pod。通过报告 Docker 和 Kubernetes 工具所使用的完整容器 ID，amd-smi 让运维人员能够将 GPU 进程直接匹配到运行它们的容器，从而在编排和多租户部署中实现清晰的资源归属。

通过 WSL2 探索 ROCm #

Windows Subsystem for Linux (WSL2) 在 ROCm 10.1 中进入技术预览阶段，标准 Linux 软件包可直接安装在客户机中，无需手动打补丁，也无需构建客户机内核。ROCm 通过 GPU 半虚拟化与 Windows 主机驱动通信，因此 PyTorch、HIP 和 AI 工作负载可在 WSL2 内直接使用 GPU 运行。安装 Windows 驱动后，像平常一样在发行版中安装 ROCm 即可。

Ubuntu 26.04 上的 GPU 虚拟化 #

ROCm 现将 KVM SR-IOV 支持扩展至 Ubuntu 26.04 LTS，可同时作为主机和客户机操作系统，使团队能够将整个虚拟化栈统一到最新的长期支持版本上。这与主机上 AMD GPU 虚拟化驱动（GIM）9.3.0.K 版本相配合，将最新的 Ubuntu LTS 纳入完全支持的 SR-IOV 部署中，同时不落后于驱动更新。

hipThreads：面向线程化代码的增量 GPU 加速 #

编写高性能 GPU 软件传统上意味着通过底层执行和同步原语来表达并发。ROCm 10.1 在 ROCm Threading 库下将 hipThreads 引入 ROCm Core SDK，把标准 C++ 线程概念带入异构设备编程。hipThreads 提供了一条路径，无需完全重写 HIP 即可在 AMD GPU 上加速现有的 CPU 线程代码。

该库将这些 CPU 概念映射到 Linux 和 Windows 上的 GPU 执行，让开发者可以逐步迁移，而非一次性全部迁移。它面向具有并行 CPU 工作负载的应用程序，在这些场景中，全面迁移到 GPU 编程模型的工作量无法通过回报来证明其合理性。

更多信息，请参阅 hipThreads 文档和 hipThreads 仓库。

总结 #

ROCm 10.1 反映了一个明确的优先事项：随着工作负载规模扩大，高效地移动和放置数据与原始计算能力同样重要。AMD Infinity Storage 和 hipFILE 快速路径缩短了从存储到 GPU 的路径，NUMA 感知分配使主机内存靠近需要它的计算资源。结合更丰富的 I/O 遥测，可揭示工作负载是受计算、内存还是数据交付限制，ROCm 现在提供了一种更智能的方式来定位日益制约大模型训练和推理的数据移动瓶颈。

在内存和 I/O 基础之上，该版本通过 LLVM 24 和更快的重新构建、更新的 AI 和数学库、hipThreads 加速、扩展的虚拟化、一流的 WSL2 以及 ROCm CLI 的改进，使更广泛的平台实现现代化。

无论您是在 Ryzen AI 系统上构建、在 Radeon 和 AMD Instinct 平台上部署推理，还是扩展分布式训练和科学计算，ROCm 10.1 都提供了开发下一代加速应用程序所需的性能、灵活性和生产就绪工具。

完整的发行说明、软件包列表和安装说明，请参阅 ROCm 文档。
有关上一个 ROCm 版本的更多信息，请访问 ROCm 10.0 博客。

免责声明 #

本文档中提供的信息仅供参考，可能包含技术不准确、遗漏和排版错误。本文所含信息可能会发生变化，并可能因多种原因而变得不准确，包括但不限于产品和路线图变更、组件和主板版本变更、新模型和/或产品发布、不同制造商之间的产品差异、软件变更、BIOS 刷新、固件升级等。任何计算机系统都存在无法完全预防或缓解的安全漏洞风险。AMD 无义务更新或以其他方式更正或修订此信息。但是，AMD 保留修订此信息并不时更改其内容的权利，且无义务通知任何人此类修订或更改。此信息按“原样”提供。AMD 对此处内容不作任何陈述或保证，并且对此信息中可能出现的任何不准确、错误或遗漏不承担任何责任。AMD 特别声明不承担任何关于不侵权、适销性或特定用途适用性的默示保证。在任何情况下，AMD 均不对任何人因依赖本文所含任何信息而导致的任何直接、间接、特殊或其他后果性损害承担责任，即使 AMD 已明确被告知此类损害的可能性。AMD、AMD 箭头标识及其组合是 Advanced Micro Devices, Inc. 的商标。本出版物中使用的其他产品名称仅用于识别目的，可能是其各自公司的商标。© 2026 Advanced Micro Devices, Inc. 保留所有权利。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：AMD ROCm Blog

原创地址：https://rocm.blogs.amd.com/ecosystems-and-partners/rocm-10.1-blog/README.html

ITPub博客

打破数据移动瓶颈