使用 NVIDIA cuObject 和 NVIDIA SCADA Server SDK（软件开发工具包） 扩展 AI 存储访问 | NVIDIA 技术博客
AI 基础设施工程师、存储开发者和云服务提供商需要快速、安全地访问高容量文件和对象存储，以支持 AI 工作负载。
AI 工作负载越来越需要高速数据访问，用于训练、微调、推理上下文、工具调用、搜索和数据库查找。这些数据大部分位于本地和云端的文件和对象中。计算加速器——包括 GPU（图形处理器）、TPU 和 XPU——需要远程直接内存访问（RDMA），该技术使用 NIC 或 DPU 加速的数据传输（如 NVIDIA ConnectX NIC 或 NVIDIA BlueField DPU），并且不通过服务器 CPU 控制的内存复制数据。随着 GPU 架构速度的提升，对 RDMA 加速、零拷贝数据传输的需求也在增长。
构建文件和对象存储直接访问的开发者不得不应对不同提供商之间的不同 API（应用程序编程接口） 和协议。基于 RDMA 的对象存储也缺乏通用的线协议，导致开发者要么支持特定提供商的集成，要么依赖传统的访问方式。
xio-sig 的扩展和新的 Scaled Accelerated Data Access（SCADA）Server SDK 提供了两种方式，为 AI 工作负载构建更具互操作性的存储访问。
xio-sig 和 SCADA 的新进展
NVIDIA 正在与 Google Cloud 和 Microsoft 合作，扩展 xio-sig，在 cuFile 之外纳入 NVIDIA cuObject。同时宣布 cuObject 客户端和服务器库正式可用。开发者可以使用 cuObject 的 API 和 RDMA 线协议来构建加速对象存储应用和服务器，而 xio-sig 提供了一条路径，使 cuObject 客户端能够与任何遵循该线协议的服务器端实现进行互操作。
新的 SCADA Server SDK 使存储提供商能够构建 SCADA 服务器，以响应来自 SCADA 客户端的 GPU 发起请求。IBM 已展示了一个集成 SCADA 和 IBM Storage Scale 的原型的互操作性。结合 xio-sig 的扩展，这些努力为 AI 开发者、存储提供商和云服务提供了更多通过共享 API 和协议构建和使用加速存储的方式。
还出现了一类新兴的 AI 数据访问方式，涉及由加速器发起的小型、细粒度 I/O 请求，这些请求不适合传统存储介质或协议。通过 NVIDIA Storage-Next 计划，NVIDIA 正在领导一个由 40 多家供应商和客户组成的团体，包括 NAND 供应商、控制器供应商、存储提供商、超大规模云服务商和应用开发者，共同定义 GPU 驱动的存储应如何工作，并将这些进步转化为可互操作的开放行业标准。支持高吞吐量、细粒度、GPU 发起的存储访问的软件基础设施是 SCADA。关于开源 cuFile API、Storage-Next 和 SCADA 的 FMS 博客提供了这些工作的背景信息。
xio-sig 中的 cuObject 支持
cuObject 库的正式可用为 AI 应用开发者、开源框架开发者、存储提供商和存储消费者提供了标准化方法，使用文件和对象协议进行加速 AI 数据访问，如图 1 所示。AI 加速器可以使用 RDMA 访问文件和对象存储，无需通过服务器 CPU 路由数据，从而实现更高的吞吐量、更低的延迟，并降低数据写入和读取时的 CPU 利用率。
作为 xio-sig 中 cuFile 的维护者，Google Cloud 正在评估扩大其对 cuObject 的参与，这反映了其对高性能云文件和对象存储的关注。Microsoft 也期待加入 xio-sig 董事会，以改善存储 I/O 的互操作性。
xio-sig 进展
该仓库结构针对 cuFile 和 cuObject 分别设置。cuFile 和 cuObject 的头文件、cuObject 线协议，以及 libxFile 和 xFilekernel 代码的库实现代码，将在生产就绪的软件栈通过一致性测试后共享。治理文档目前正由待任命的董事会成员审阅。
NVIDIA Storage-Next 与 SCADA 扩展
在 Storage-Next 计划中，新的 SCADA Server SDK 使存储合作伙伴能够构建服务器，这些服务器可以接收来自基于 GPU 的 SCADA 客户端的请求，使用本地或远程存储完成请求，并通过 RDMA 交付结果。该工作还包括 Storage Lender Service 和一个用于配置和部署 SCADA 的 SCADA 命令行实用程序。这些组件支持可与 SCADA 客户端互操作的存储提供商服务器。
IBM Storage 展示了一个原型，其中 SCADA 客户端向其基于新 SCADA Server SDK 构建的 Storage Scale SCADA 服务器初始版本发送请求。这展示了存储供应商如何与 NVIDIA 合作，为 SCADA 的加速、GPU 发起的存储访问构建生态系统，为可支持语义搜索、推荐系统和欺诈检测等应用访问大型数据集的软件基础设施铺平道路。
开始使用 cuObject 和 xio-sig
随着 xio-sig 扩展以纳入 NVIDIA cuObject 和现已正式可用的 cuObject 库，存储合作伙伴、提供商和消费者可以开始使用 cuObject，并准备为社区在 cuFile 和 cuObject 的可互操作 API 和协议方面的工作做出贡献。
关注 xio-sig 仓库以获取更新
关于 xio-sig、cuFile 和 Storage-Next 的 NVIDIA FMS 博客
NVIDIA 在 2024 OCP Summit 上关于 SCADA 的演示
查看并试用 OSS Storage Lender Service
GPUDirect Storage (GDS) 文档 cuFile API 文档 cuObject 文档
cuObject Server 2.0.0 链接
NVIDIA CUDA（NVIDIA 并行计算平台和编程模型） 13.4 预览版下载
请参阅关于软件产品信息的通知。
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文作者：Harish Arora；如有侵权，请联系管理员删除。
