ITPub博客

首页 > 人工智能 > 人工智能 > 使用数字孪生和AI智能体验证AI工厂变更 | NVIDIA技术博客

使用数字孪生和AI智能体验证AI工厂变更 | NVIDIA技术博客

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑

在生产环境部署之前,使用 NVIDIA DSX Air 和 NVIDIA Brev 测试受支持的配置和软件集成。


AI 工厂是世界上最复杂的运营系统之一,将 GPU(图形处理器)、CPU、交换机、DPU 和 SuperNIC 与调度器、编排服务、安全控制以及快速变化的软件栈结合在一起。有效部署这些基础设施是一项挑战。但同样具有挑战性的是,能够验证基础设施、软件和策略是否能够协同工作,以支持业务打算运行的工作负载。为了最大限度地缩短首 token 时间,AI 工厂运营者不能等到硬件到货后才进行验证。

将 AI 智能体连接到数字孪生

基于节点的数字孪生仿真是一种高保真、可执行的 AI 工厂基础设施和运营接口表示。与物理副本不同,它为平台团队提供了一个安全、可通过 API(应用程序编程接口) 访问的环境,用于对硬件拓扑和软件栈进行建模、执行变更、观察行为,并在生产变更实施之前验证结果。集成到 CI/CD 流水线中后,它可以在推广之前自动验证受支持的配置和软件变更。它将仿真从一项规划活动扩展为一种持续可用的运营能力。

智能体 AI 使这种能力变得主动。智能体可以查询孪生、运行检查、比较结果、检索相关运营上下文,并启动后续工作流。其结果是提供了一条实用路径,将验证左移、缩短 AI 交付时间,并在不以生产环境作为变更首次测试场所的前提下提高生产效率。

在硬件到货之前验证配置

AI 工厂是一个系统的系统。其特性源于各层之间的交互:加速器配置、网络架构、存储、Kubernetes(容器编排平台) 和调度、GPU 编排、租户隔离、身份和访问控制、可观测性以及 AI 应用本身。孤立地验证任何单一层都是不够的。

传统环境通常迫使团队等待物理硬件上架和布线、搭建实验室、执行软件启动,然后验证系统是否按计划运行。这一流程成本高昂且速度缓慢,尤其是在设计敏捷、多个团队并行贡献变更的情况下。

基于节点的数字孪生表示受支持的基础设施软件和 API,因此团队可以在硬件可用或生产部署之前,针对具有代表性的环境进行工作。团队可以在逻辑孪生中验证受支持的配置和软件变更,然后再通过交付流水线进行推广。

直接收益是切实可见的:

  • 在完整的物理系统到货之前,验证受支持的配置和软件集成。

  • 减少搭建物理实验室、启动软件和验证多租户所需的时间。

  • 在投入物理基础设施或生产容量之前,测试具有代表性的大规模设计和工作流。

  • 在生产变更之前,在孪生中测试受支持的网络配置和软件集成。

  • 在 Day 0 规划、Day 1 部署和 Day 2 运营中使用相同的模型。

作为逻辑数字孪生的基于节点仿真并非旨在取代所有仿真技术。它成为更广泛仿真策略中的高保真集成和验证层。

为每个决策选择合适的仿真方式

AI 工厂团队需要不止一种仿真方式。基于节点的仿真支持对受支持配置和软件的集成测试与运行验证。独立的集群、性能、功耗和内存模型可以在其经过验证的范围内为容量和资源规划提供依据。团队应将这些模型的输出与他们在 DSX Air 中验证的配置和软件行为区分开来。

这一区分很重要。性能模型可以预测某种配置的效果。基于节点的仿真可以展示当预期的技术栈、API、策略和编排器一起执行时会发生什么。智能体应当能够针对所提出的问题使用每种仿真形式,然后将所得证据保存到交付和运维工作流中。

构建受治理的智能体验证循环

可以为智能体分配一个有界目标,使用经批准的工具查询或更改数字孪生,评估结果状态,并返回有证据支撑的建议或触发受治理的工作流。

考虑一个典型的闭环:

  • 拟议的基础设施或软件变更进入 CI/CD 或变更管理工作流。

  • 智能体配置或选择相关的逻辑孪生,包括拓扑、租户策略、工作负载配置文件和运行约束。

  • 智能体运行工作流中可用的验证工具,例如受支持的配置检查、安全与合规检查以及基础设施健康分析。工作负载和性能估算需要适当的模型或测量数据;基于视觉的检查需要相关的图像或视频输入。

  • 它将结果与组织策略以及从经批准文档中检索到的领域知识进行比较。

  • 它生成基于证据的报告,并建议推进、创建修复任务或将案例转交人工审批。

  • 一旦部署,同样的模式可以观察生产信号,并持续改进孪生、验证套件和操作规程。

这是一种受治理的自动化模型,而不是让智能体不受约束地访问生产环境的邀请。仿真平台提供了沙箱,智能体可以在其中探索、测试和提出变更。人在回路中的门控和策略控制决定结果何时可以影响生产。

将 DSX Air 仿真与 NVIDIA Brev GPU 计算连接起来

NVIDIA DSX Air 为 AI 工厂提供数字孪生:一个仿真环境,团队可以在其中针对 AI 工厂设计在其整个生命周期内进行建模、验证和运维。规模是一项核心能力:团队可以验证具有代表性的大规模基础设施场景,包括大型网络架构,同时保留运维工作流所需的软件和 API 保真度。DSX Air 是可重复基础设施验证的基础,也是智能体工作流的天然运行环境。

NVIDIA Brev 通过向开发者和工作流提供按需 GPU 资源来补充这一基础。在 DSX Air 环境中,用户可以连接到 Brev,选择一个由 GPU 支持的启动项,并使该资源可用于逻辑孪生工作流。NGC 中共同的组织上下文有助于简化跨仿真环境和 GPU 服务的体验。

团队可以使用这些能力启动实验或工作流所需的 AI 服务,将其连接到具有代表性的工厂环境,并让智能体针对该环境执行经过验证的任务。通过将计算支持的 AI 服务引入可扩展的仿真孪生平台,团队可以从孤立的 AI 演示迈向可重复的 AI 工厂工作流。

将视频智能应用于智能体工作流

NVIDIA AI Blueprint for Video Search and Summarization (VSS) 展示了这一模式所能实现的能力。VSS 环境在 NVIDIA DSX Air 中进行模拟。AI 模型运行在由 NVIDIA Brev 提供的 GPU 实例上,位于模拟环境之外。VSS 连接到这些模型以分析和搜索视频。这将工作流大规模地引入逻辑孪生中,而不是将其局限于独立的服务演示。关于结合 VSS、NVIDIA NemoClaw 和 NVIDIA RAG(检索增强生成) Blueprint 的实际示例,请参阅 Integrating Context-Aware Video AI Agents Into Enterprise Workflows。

在此工作流中,智能体编排层协调视频理解与检索增强的企业知识。智能体收集请求参数,调用视频分析,检索相关策略或领域上下文,生成带引用的报告,并将结果路由到 Jira 等下游系统。该架构将各项专业能力——视频 I/O、搜索与理解、知识检索、报告生成和企业操作——分离,同时通过智能体驱动的工作流使其可用。

图 6 展示了 VSS 视频智能架构。此处描述的工作流包含四层:

  • 编排:NVIDIA NemoClaw 智能体、vss-generate-video-report-rag 技能以及 HITL 提示。

  • VSS 智能体:视频 I/O、搜索、理解、LVS、知识检索和报告生成。知识检索是智能体的一部分,而非单独的扩展。

  • NVIDIA RAG Blueprint:NVIDIA RAG API、Milvus 向量数据库、NVIDIA Nemotron 重排序 NIM,以及已索引的参考文档和组织文档。

  • LLM 融合:使用通过 RAG Blueprint 检索到的上下文来丰富 VSS 提供的摘要。

数据在系统中向下流动,智能体的工具编排对 LVS 服务和 RAG Blueprint 的调用,二者均输入到报告生成工具以产生最终输出。

置于数字孪生的背景下,VSS 所代表的远不止视频摘要。视频流、模拟摄像头视图、巡检录像或运营录像都可以成为智能体验证 AI 工厂的证据来源。在可扩展的模拟环境中运行此工作流,使团队能够针对更大、更具代表性的 AI 工厂场景评估相同的智能体模式。例如,智能体可以:

  • 检查与模拟或真实设施工作流相关的视频并识别异常。

  • 检索与该异常相关的操作规程、安全策略或服务文档。

  • 将发现与孪生配置和基础设施状态相关联。

  • 生成带有视频证据和来源引用的可追溯报告。

  • 创建优先级修复任务或请求人工决策。

VSS 展示了一种可复用的检测、推理、行动模式。专业 AI 服务提供高质量信号。检索将结论建立在企业知识之上。智能体编排工作。逻辑孪生则提供了一个安全、高保真的上下文,以便在结果成为生产操作之前对其进行验证。

在整个生命周期中扩展反馈循环

该架构的价值在于反馈循环。团队不应将模拟视为一次性的设计任务,而可以将其作为运营系统的一部分:

  • 设计智能体在硬件可用之前评估提议的拓扑和部署选择。

  • 验证智能体演练真实的软件接口,并检查提议的变更是否维持租户隔离、安全性和资源约束。

  • 运营智能体总结基础设施证据,识别漂移或异常,并准备带有必要上下文的工单或升级。

  • 持续改进智能体利用已部署工作流的成果来优化逻辑孪生中的场景、策略和测试覆盖。

为企业运营设计智能体工作流

要从概念验证走向可靠的平台,团队应围绕几个实用原则来构建:

  • 从有边界的循环流程开始。选择一个具有明确输入、决策和动作的工作流——例如,部署前策略检查、容量验证运行,或从巡检到工单的流程。

  • 将决策建立在经过批准的上下文之上。将智能体连接到经过整理的操作文档、策略、运行手册和设计约束。在生成的报告中保留引用和证据。

  • 将实验与生产权限分离。让智能体在逻辑孪生中执行广泛实验;对生产变更应用明确的策略、审批和身份控制。

  • 对循环流程进行监测。跟踪验证覆盖率、决策时间、误报、修复结果,以及模拟行为与观察行为之间的差距。

  • 在整个生命周期中使用同一模型。仅在设计阶段有用的孪生,会错过其最高价值的角色:以共同的运营上下文支持 Day 0 规划、Day 1 部署和 Day 2 运营。

从一个受支持的验证工作流开始

机会在于将 AI 工厂本身视为一个智能的、持续验证的系统。首先在 DSX Air 中对环境的一个代表性切片进行建模,通过 NVIDIA Brev 连接运行所选 AI 工作流所需的 GPU 资源,并选择一个能够针对孪生运行且具有明确成功标准的智能体循环。

VSS 实现是一个很有说服力的例子:它将视频证据和企业知识转化为协调一致的行动。相同的架构可以支持基础设施健康报告、安全与合规验证、设计验证、性能调查,以及 AI 工厂生命周期中的其他自主工作流。

当智能体能够安全地针对数字孪生工作时,组织可以从被动运营转向以证据驱动、持续改进的 AI 工厂,并缩短从基础设施想法到经过验证的生产路径之间的时间。



转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:NVIDIA Technical Blog

原创地址:https://developer.nvidia.com/blog/validate-ai-factory-changes-with-digital-twins-and-ai-agents/

原文作者:Avi Alkobi;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1148
  • 访问量
    548126