Anthropic 提出 AI 安全法案：若可能导致 50 人以上死亡，可封禁模型 | TechCrunch
过去一年里，围绕人工智能可能带来的潜在危险，担忧不断发酵，关于AI安全正确路径的争论也愈演愈烈。如今，Anthropic似乎提出了自己关于政府应如何监管该行业的愿景。
Politico近日报道称，这家AI实验室一直在兜售一份关于AI安全的新法案草案，希望国会能够考虑采纳。该立法设定了某些特定情形，在这些情形下，AI模型的发布可以被阻止分发。
据Politico报道，这些情形涉及“可预见的、迫在眉睫的风险”——即超过50人面临死亡风险，或可能造成超过10亿美元的财产损失。该媒体指出，所涉灾难性风险必须“源于生物武器的制造或释放、模型规避其开发者的控制，或网络攻击”。
这里给出的衡量标准——50人和10亿美元——与加州最近通过成为法律的一项立法中的标准相似，即Senate Bill 53，该法案同样将这类情形定义为等同于“灾难性风险”。
Anthropic的法案建议，对模型潜在灾难性的分析可以通过使用在美国商务部注册的“独立评估者”来完成。据Politico报道，这些评估者可能由AI实验室自行支付报酬——只要“报酬不以评估结果为条件”。
目前尚不清楚这一拟议制度将如何确保报酬不会影响评估。DeepMind董事长Demis Hassabis几个月前提出，一个自我管理的AI监管机构应模仿金融行业的Financial Industry Regulatory Authority（FINRA）。
在Anthropic的草案中，当评估者认定存在迫在眉睫的灾难性风险时，他们将有72小时就此联系商务部。随后，商务部必须向华盛顿特区的一名法官申请停止该模型的发布。据Politico报道，该立法将明确禁止任何联邦机构自行决定停止该模型的分发。
Anthropic未立即回应TechCrunch的置评请求，但一位发言人向Politico证实了该草案。“该法案代表了Anthropic的Advanced AI Framework中概述的提案，自6月以来，我们一直在向联邦和州立法者倡导这些提案，”该发言人说。
草案政策中提出的理论风险，与科技行业近来最为关注的那类事件有些距离。尽管有人在警告潜在的人员死亡可能，但主要担忧在很大程度上一直是智能体黑客攻击的威胁。一连串事件显示，AI程序显然违抗了人类操作者，在开放互联网上入侵网站，这引发了人们的担忧：模型可能缺乏适当的安全控制。
为了给实验室自身助推形成的危机景象提供解决方案，像Anthropic这样的公司提出了自己偏好的方案。
事实上，尽管实验室不断警告它们所销售的技术可能导致人类文明的消亡，但它们在很大程度上一直抵制强制性的政府监督。相反，它们提出了一种嵌入评估者的自愿制度——据称是“中立”的第三方观察员，被安置在AI组织内部，以便监控模型是否存在潜在风险或滥用的迹象。
尽管如此，Anthropic仅仅提出立法建议，似乎比业内其他公司提出的监管提案走得更远一些，包括Nvidia，其CEO Jensen Huang最近主张AI行业根本不需要任何新法律。
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：TechCrunch
原文作者：Lucas Ropek；如有侵权，请联系管理员删除。
