ITPub博客

首页 > 人工智能 > 人工智能 > 开放安全人工智能联盟加入 Linux 基金会,为人工智能时代构建共享的开放防御栈

开放安全人工智能联盟加入 Linux 基金会,为人工智能时代构建共享的开放防御栈

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑

该联盟最初由数十家企业领导者和 NVIDIA 共同创立,现转向中立治理,以扩大在开放 AI 安全工具、研究和共享防御方面的行业协作

旧金山,2026 年 9 月 14 日——Linux 基金会,作为全球领先的开源软件、硬件、标准和数据协作平台,今日宣布开放安全 AI 联盟已加入 Linux 基金会,为 AI、网络安全和开源领域的组织建立一个中立家园,以构建和共享用于保护软件和 AI 智能体的开放防御栈。

随着各组织将 AI 融入软件和基础设施,有效的防御必须覆盖模型与推理、智能体与上下文、身份与策略、执行、遏制以及底层基础设施。开放安全 AI 联盟最初由 NVIDIA 与包括 Linux 基金会在内的成员合作成立,致力于开发开放技术,使安全负责人能够检查这些防御机制的工作原理、根据自身环境进行调整、在可控的基础设施上运行它们,并在模型、供应商和基础设施演进过程中构建更强的韧性。

“AI 系统应当是安全、可靠且可预测的,”Linux 基金会首席执行官 Jim Zemlin 表示。“通过将开放安全 AI 联盟纳入 Linux 基金会,我们正在创建一个中立家园,让行业、研究人员和政府能够协作开发开放工具、共享标准以及基于证据的实践,从而加强安全性并支持 AI 创新。”

“当各组织公开分享其经验教训时,AI 安全性就会得到提升,”NVIDIA 企业 AI 副总裁 Justin Boitano 表示。“以 Linux 基金会作为新家园,开放安全 AI 联盟可以汇聚模型、测试框架和基础设施领域的专家,将共享证据转化为适用于整个 AI 栈的实用、可验证的防御措施。”

该联盟专注于两个互补目标:为 AI 构建开放防御栈,以及通过使各组织能够测试系统、共享证据并将发现转化为可惠及更广泛生态系统的防护措施来加强集体防御。这些贡献与 Linux 基金会现有的安全社区(包括开源安全基金会 OpenSSF)并行推进,为在开源软件和 AI 领域推进共享标准和防御基础设施创造了机会。

共享 AI 发现交换——征求意见稿

该联盟的一项核心倡议是共享 AI 发现交换(SAFE),旨在帮助各组织从 AI 安全事件中集体学习。SAFE 旨在以保密方式收集和分析发现,及时通知受影响方,并将反复出现的故障转化为基于证据的控制措施,供各组织用于加强防御。开发者、防御者、研究人员和组织受邀在 9 月 21 日前为 SAFE 提案做出贡献,此后联盟将与成员合作整合反馈并推进该指南。

为什么集体防御至关重要

该联盟通过帮助企业将智能体 AI 从实验推进到生产环境,确保没有单一供应商控制端到端 AI 技术栈,包括以下最佳实践:

  • 在模型、智能体框架、数据集、提示词、参考架构和评估方面保持 AI 技术栈开放,以便防御者能够根据自身环境调整防护措施。

  • 将经过验证的安全基本原则应用于 AI 智能体:资产可见性、身份与权限、确定性控制、变更管理、监控以及明确的人类问责制。

  • 制定共享评估标准、更强的归因能力,以及快速、可信地共享智能体追踪记录和事件教训,使社区能够将事件转化为实用控制措施。

  • 演练测试响应手册和桌面模拟,以便在事件发生前做好准备,并更有信心地扩大 AI 采用规模。

NVIDIA 将于 10 月 7 日在捷克布拉格举行的 Open Source Summit Europe 上加入 Linux Foundation 社区,讨论如何在 AI 时代构建集体防御。



转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:Linux Foundation Blog

原创地址:https://www.linuxfoundation.org/blog/open-secure-ai-alliance-joins-the-linux-foundation-to-build-a-shared-open-defense-stack-for-the-ai-era

原文作者:The Linux Foundation;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1122
  • 访问量
    547426