Anthropic 支持 SB 53，这是加利福尼亚州的一项法案，旨在规范由 Anthropic 等前沿 AI 开发者构建的强大 AI 系统。我们长期以来一直倡导深思熟虑的 AI 监管，我们对该法案的支持是在仔细考虑了加利福尼亚州此前尝试 AI 监管（SB 1047）的经验教训之后做出的。尽管我们认为前沿 AI 安全最好在联邦层面解决，而不是各州法规的拼凑，但强大的 AI 进展不会等待华盛顿达成共识。

纽森州长组建了加利福尼亚州联合政策工作组——一个由学者和行业专家组成的团体——就 AI 治理提供建议。该工作组支持“信任但验证”的方法，参议员 Scott Wiener 的 SB 53 通过披露要求而非去年困扰相关努力的指令性技术强制要求来实施这一原则。

SB 53 将要求开发最强大 AI 系统的大型公司：

• 制定并发布安全框架，描述其如何管理、评估和缓解灾难性风险——这些风险可预见地且实质性地导致大规模伤亡事件或重大金钱损失。

• 发布公开透明度报告，总结其灾难性风险评估以及在部署强大的新模型之前为履行各自框架所采取的步骤。

• 在 15 天内向州政府报告关键安全事件，甚至以保密方式披露对内部部署模型使用可能产生灾难性风险的任何评估摘要。

• 提供明确的举报人保护，涵盖违反这些要求的行为以及灾难性风险对公共健康/安全造成的具体和重大危险。

• 对其框架中所作承诺公开负责，否则将面临金钱处罚。

这些要求将把 Anthropic 和许多其他前沿 AI 公司已经遵循的做法正式化。在 Anthropic，我们发布我们的负责任扩展政策，详细说明随着模型能力增强，我们如何评估和缓解风险。我们发布全面的系统卡，记录模型的能力和局限性。其他前沿实验室（Google DeepMind、OpenAI、Microsoft）也采用了类似方法，同时在前沿领域激烈竞争。现在所有受涵盖的模型都将在法律上被要求达到这一标准。该法案还适当地聚焦于开发最强大 AI 系统的大型公司，同时为不太可能开发强大模型且不应承担不必要监管负担的初创公司和小型公司提供豁免。

SB 53 的透明度要求将对前沿 AI 安全产生重要影响。如果没有它，拥有日益强大模型的实验室可能面临越来越大的激励，为了竞争而削减自身的安全和披露计划。但有了 SB 53，开发者可以在竞争的同时确保他们对构成公共安全风险的 AI 能力保持透明，创造一个披露是强制而非可选的公平竞争环境。

SB 53 提供了强有力的监管基础，但我们可以而且应该在以下领域在此基础上继续推进，我们期待与政策制定者合作实现这一目标：

• 该法案目前根据训练 AI 系统所使用的计算量（FLOPS）来决定监管哪些 AI 系统。当前阈值（10^26 FLOPS）是一个可接受的起点，但始终存在一些强大模型可能未被涵盖的风险。

• 同样，开发者应被要求提供更多关于其所进行的测试、评估和缓解措施的细节。当我们分享安全研究、记录红队测试并解释部署决策时——正如我们通过 Frontier Model Forum 与行业参与者共同所做的那样——这会加强而非削弱我们的工作。

• 最后，法规需要随着 AI 技术的进步而演进。监管机构应有能力根据需要更新规则，以跟上新发展，并在安全与创新之间保持适当平衡。

我们赞扬 Wiener 参议员和纽森州长在负责任 AI 治理方面的领导力。问题不是我们是否需要 AI 治理——而是我们会在今天深思熟虑地发展它，还是在明天被动应对。SB 53 为前者提供了一条坚实道路。我们鼓励加利福尼亚州通过该法案，并期待与华盛顿和世界各地的政策制定者合作，制定全面的方法，在保护公共利益的同时保持美国的 AI 领导地位。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：Anthropic Blog

原创地址：https://www.anthropic.com/news/anthropic-is-endorsing-sb-53