每一个训练良好的医学影像模型背后,都有一个精心标注的数据集;而在这个数据集背后,是一位人类专家逐层绘制轮廓。MONAILabel 的存在就是为了让这位人类专家更快。它由 Project MONAI(Medical Open Network for AI)开发,是一个广泛使用的开源主动学习标注服务器,用于医学影像。它将 3D Slicer、Open Health Imaging Foundation (OHIF) Viewer 和 QuPath 连接到由 MONAI 驱动的深度学习模型,使放射科医生和研究人员能够交互式地标注 3D 计算机断层扫描 (CT) 和磁共振成像 (MRI) 体数据以及全切片图像,由模型提出建议,由人类进行修正。
借助支持 ROCm™ 10.0 的 AMD Life Science 26.08,MONAILabel 0.8.5 以 Early Access 版本的形式登陆 AMD Instinct™ GPU。
在本博客中,您将了解该移植的工作原理,探索其在真实脾脏 CT 分割工作负载上的性能,并了解如何自行尝试。本文是 AMD Life Science 医学影像技术栈系列文章的一部分。配套文章涵盖 hipCIM 图像 I/O 库、MONAI 数据加载以及经过验证的 Model Zoo 推理。
下表总结了主要结果,所有结果均在搭载 ROCm 10.0 的 AMD Instinct™ MI355X 上测得。
| 指标 | 结果 | 硬件 | 基线 / 工作负载 | | --- | --- | --- | --- | | 模型推理对比 CPU(同等条件,fp32) | 131×(中位数;范围 115–133×) | 搭载 ROCm 10.0 的 MI355X | 主机 CPU,fp32 | | 单个体数据推理(部署配置,bf16) | ~0.05–0.12 s | 搭载 ROCm 10.0 的 MI355X | 4 个脾脏 CT 体数据 | | 单个 96³ patch 推理,GPU | ~5.5–7.8 ms | 搭载 ROCm 10.0 的 MI355X | — | | CPU–GPU 数值一致性 | 最大绝对误差 ~4.6×10⁻⁶ | 搭载 ROCm 10.0 的 MI355X | float32;容差 5×10⁻² |
表 1. 本文结果摘要。
标注是一场对话。每个周期都运行相同的循环:加载体数据,运行推理以提出分割建议,让标注者进行修正,并将修正反馈回去。为了让这个循环保持高效,每次推理都必须在数秒内返回。在 CPU 上,对完整 CT 体数据进行滑动窗口推理可能耗时数分钟,标注者只能等待。在 AMD Instinct™ GPU 上,同样的流水线在数秒内完成,对话得以持续流畅进行。
借助 AMD Life Science,团队无需改变工作流程即可获得这一加速。该移植对框架透明:所有 GPU 计算都通过 PyTorch-ROCm 运行,其中 HIP 以 torch.cuda.* 的形式呈现。现有的模型配置、示例应用和 MONAI bundle 无需修改即可运行。标注者的体验没有改变;只是变得更快了。
该移植的优势之一在于其占用空间小。整个功能性 ROCm 支持仅存在于三个文件中,列于下方表 2,且未对 Python API(应用程序编程接口) 做任何更改,也未新增 GPU 内核:
| 文件 | 变更 | | --- | --- | | monailabel/utils/others/generic.py | gpu_memory_map() 增加了 rocm-smi --showmeminfo vram --csv 回退方案,因此在 nvidia-smi 缺失时也能正确监控 AMD VRAM | | monailabel/endpoints/logs.py | /gpu REST 端点变为后端无关,可分发到存在的任一 GPU 工具,nvidia-smi 或 rocm-smi | | Dockerfile | 在现有 CUDA(NVIDIA 并行计算平台和编程模型) 说明旁记录了 AMD ROCm 基础镜像和 AMD PyPI wheel 索引 |
表 2. 该移植更改的三个文件。
由于该移植在框架层面工作,而非重写 GPU 内核,因此未来每一次上游 MONAI 更新都会自动继承 AMD GPU 支持。无需维护分支,也无需保持内核同步。
下方的头条推理数据来自系统配置中的配置。模型推理在来自医学分割十项全能(Task09 脾脏)的四个脾脏 CT 体积上计时,CPU 基线是同一模型在主机 CPU 上以相同 fp32 精度运行,主机 CPU 为 AMD Ryzen™ Threadripper™ PRO 7955WX,固定 32 线程。CPU–GPU 一致性对照 fp32 的 CPU 输出进行检查(容差 5×10⁻²)。离线单元测试套件(57/57 通过)在同一 MONAILabel 0.8.5 wheel 上运行。
每个标注周期都会在标注者正在处理的体积上运行相同的分割模型,因此模型推理延迟就是标注者所体验到的延迟。在搭载 ROCm 10.0 的 MI355X 上,该推理比同一模型在主机 CPU 上以相同 fp32 精度运行快 131 倍(来自医学分割十项全能 Task09 的四个脾脏 CT 体积的中位数;范围 115–133 倍)。按部署配置,使用 bf16 自动混合精度,每个体积的推理大约在 0.05–0.12 秒内完成。在 fp32 下,大约在 0.13–0.28 秒内完成。
该工作的最小单元,即单个 96³ 体素滑动窗口补丁通过 BasicUNet-3D 骨干网络(5.7M 参数),在 MI355X 上以个位数毫秒运行。约 5.5–7.8 毫秒的范围涵盖了同一补丁的三次独立测量运行,而非单次运行内的变化。
头条数据是同等条件下的 fp32 体积比率,而非补丁级加速,这是有意为之。两者表现不同。补丁级比率完全取决于你选择哪个 CPU 基线:在一台机器上,仅改变线程数就会从 178 倍变为 356 倍。体积级、同精度的比率不会那样变化,这就是为什么这里引用 131 倍,以及为什么基线部分和线程数要与之一起说明。
速度不以正确性为代价:CPU 与 GPU 输出之间的最大绝对误差约为 4.6×10⁻⁶。这在 float32 累加舍入范围内,且远小于 5×10⁻² 的容差,因此一致性通过。
与单次推理不同,一个完整的标注请求会加载并重采样体数据、运行滑动窗口推理,并将结果写回。由于模型推理现在只需不到一秒,这一步不再是瓶颈。在脾脏体数据中,预处理和文件 I/O 占热请求(即服务器和模型已加载、不计启动成本的请求)的 94–99%,GPU 推理只占很小一部分。实际上,GPU 已使模型推理在请求中几乎不耗时。剩下的就是数据移动,其成本随体数据大小和主机页缓存状态而变化,而非随 GPU 变化。对标注团队的实际启示很简单:模型不再是你需要等待的环节,交互循环保持响应。每个请求完全在 GPU 上生成有效的分割掩码(全程 device: cuda)。
MONAILabel 不需要 hipCIM(AMD 的 GPU 加速图像 I/O 库)即可运行。然而,安装 hipCIM 后 MONAILabel 运行更快。hipCIM 通过 MONAI 的可选 cuCIM 集成接入放射学示例应用。当 cucim(由 hipCIM 提供)和 CuPy 均已安装时,MONAI 会将连通组件后处理步骤从 CPU 移至 GPU。安装 amd-hipcim 后,MONAI 报告 has_cucim=True。再添加 amd-cupy 即可激活 GPU 连通组件路径,将后处理和连通组件阶段从 CPU 卸载。hipCIM 的 GPU 图像 I/O 也可独立于 CuPy 用于流水线的其他阶段。这预览了 AMD 生命科学组件如何相互增强。
在 ROCm 上运行 MONAILabel 需要 AMD Instinct™ GPU(26.08 版本需要 ROCm 10.0)、Python 3.12 和 PyTorch-ROCm wheel。推荐设置从 AMD ROCm 包索引拉取经 ROCm 验证的包,或从 ROCm PyTorch Docker(容器化平台) 镜像开始:
# From the AMD PyPI index (ROCm-validated packages) pip install monailabel --extra-index-url https://pypi.amd.com/rocm-10.0.0/simple/
# Start the radiology sample app and run spleen segmentation monailabel start_server --app radiology --studies--conf models segmentation_spleen
服务器在启动时将模型预加载到 AMD GPU 上,服务器日志中的 device: cuda 确认了 GPU 执行。由于 HIP/ROCm 运行时以 CUDA 形式呈现,客户端完全无需更改。
在本博客中,你了解了 MONAILabel 0.8.5 如何通过最小化、框架透明的移植,将完整的主动学习标注工作流带到 AMD Instinct™ GPU 上:更改了三个文件、零 API 变更、零新增 GPU 内核。在相同 fp32 精度下,模型推理比主机 CPU 快 131 倍(在 MI355X 搭配 ROCm 10.0 上对四个脾脏 CT 体数据取中位数),快到热标注请求现在由预处理和 I/O 主导,而非模型。你还看到了将 MONAILabel 与 hipCIM 配对如何将连通组件后处理移至 GPU。
对标注团队而言,实际好处是从 CUDA 环境迁移几乎透明:相同的工作流、相同的 API、相同的示例应用,运行在 Instinct 硬件上。如果你已经在运行 MONAILabel,则无需学习新接口。
作为早期访问版本,这是一个起点而非终点。未来版本将扩大验证覆盖范围和功能,配套文章将涵盖 AMD 生命科学医学影像栈的其余部分:用于图像 I/O 的 hipCIM、MONAI 数据加载以及经验证的 Model Zoo 推理。请关注 AMD ROCm Blogs 获取本系列其余内容。欢迎标注团队试用此版本并告诉我们他们接下来需要什么。
hipCIM 26.06:在 AMD Instinct™ GPU 上实现 GPU 加速的全切片图像 I/O:本工作底层的图像 I/O 层。
使用 hipCIM 在 AMD Instinct™ GPU 上加速 MONAI 数字病理流水线:hipCIM 作为 MONAI WSIReader 后端。
将 MONAI Model Zoo 引入 AMD Instinct™ GPU:在 ROCm 上的经验证推理:在此技术栈之上运行的已验证推理包。
GitHub 上的 MONAILabel
GitHub 上的 MONAI
GitHub 上的 hipCIM
Project MONAILabel 文档:上游 MONAILabel 文档,依据 Apache License 2.0 授权。
AMD ROCm 文档
AMD ROCm 博客
本文中的所有数据均于 2026 年 9 月 10 日在以下配置上测得。
| 组件 | 配置 | | --- | --- | | GPU | AMD Instinct™ MI355X (gfx950),裸机 | | 主机 CPU(基线) | AMD Ryzen™ Threadripper™ PRO 7955WX,绑定 32 线程 | | ROCm | 10.0 | | PyTorch | 2.13.0+rocm10.0.0(HIP 运行时 7.15.26333) | | MONAI | 1.6.0 | | MONAILabel | 0.8.5 | | Python | 3.12 | | Wheels | AMD 内部 ROCm CI 构建,用于生成已发布的制品 |
表 3. 本文数据背后的硬件与软件。
本次运行未记录操作系统、amdgpu 驱动版本和容器镜像摘要,因此将其省略,而非推断。
测量。模型推理加速比(中位数 131×,范围 115–133×)、单卷推理延迟(部署时 bf16 约 0.05–0.12 秒,fp32 约 0.13–0.28 秒)、单 patch 延迟(约 5.5–7.8 毫秒)以及 CPU–GPU 一致性(约 4.6×10⁻⁶,容差 5×10⁻²)是在医学分割十项全能(Task09 Spleen)的四个脾脏 CT 卷上测得的。同类对比加速比是将同一模型在 GPU 上以 fp32 运行与上述主机 CPU 运行进行对比;基线部分和线程数决定了该比值。离线单元测试(57/57 通过)在 MONAILabel 0.8.5 wheel 上运行。测试由 AMD 进行。
性能可能因硬件配置、工作负载和软件版本而异。本版本未验证所有功能(FP16、torch.distributed、病理应用)。AMD Instinct™ 是 Advanced Micro Devices, Inc. 的商标。
转载声明:本文为转载整理,原文版权归原作者及原站点所有。
原文来源:AMD ROCm Blog
原创地址:https://rocm.blogs.amd.com/artificial-intelligence/monailabel-2608/README.html
原文作者:Soumitra Chatterjee, Vikas C Sajjan, Nilaykumar K ;如有侵权,请联系管理员删除。