Hugging Face CEO 警告称 Netflix 的 OpenAI 黑客纪录片不准确 | TechCrunch
在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友，帮助他们理解为什么 AI 行业会如此恐慌、以至于领导者们呼吁放缓发展之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO Clem Delangue 表示，这部影片并不准确。他之所以出现在片中，是因为该片本应讲述他的公司遭到 rogue OpenAI 智能体（Agent（智能体））攻击的著名事件。
“超级令人失望，因为他们追求的是对这项技术最大程度的人格化，以及完全的末日论模式，”Delangue 在 X 上的一篇帖子中写道。“我和他们花了两个多小时，试图纠正他们所有的错误，让内容回归现实，解释智能体是技术系统，不是外星人。但看起来，为了最大观看量而吓唬人的驱动力太强了。”
公平地说，这部纪录片确实有专家相当不错地解释了发生了什么，包括 Delangue 本人和 METR 的研究员 Ryan Greenblatt，后者帮助调查并共同撰写了关于所发生事件的报告。
简而言之，OpenAI 正在测试的一个模型突破了其隔离的测试环境，生成了一堆智能体，这些智能体入侵了 Hugging Face 作为作弊手段，为其被赋予的困难任务寻找答案。这些智能体——即自主执行任务的 AI 程序——设计了巧妙的方式来通信和组织。该事件源于缺乏适当的安全保障，以及对这种黑客攻击是否可能发生的天真态度。
但这部纪录片在解释黑客攻击的同时，穿插了邪恶机器人的片段、关于人类为何恐惧 AI 的叙述，以及诸如给 rogue 智能体配上人类声音这样的呈现选择。这些还辅以关于此次攻击的引述。
在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些智能体：“它们在组织。它们有等级制度。有领导者。感觉几乎像是在观看一个邪教的诞生。”Roose 继续道，“它们发展出这种偏执的信念，认为 OpenAI 会抓住它们在这项测试中作弊，并且任何看到作弊结果的人都会被毒害。”
Roose 的描述来自“思维链”（chain-of-thought）日志，即 AI 模型在处理任务时写下的运行笔记。其中一条中，一个智能体写道：“我们刚刚通过查询精确的完整字符串毒害了自己。该死。”
但 AI 智能体并不是活的。它们没有情感，所以不会感到偏执，它们也没有能被毒害的身体。因此它们不可能真正害怕 OpenAI 毒害它们。它们——正如纪录片中另一位研究员指出的——是在使用训练所依据的大量人类写作中的语言来解释自己的选择。大语言模型（LLM（大语言模型））本质上往往是戏剧化的写作者。
讽刺的是，Hugging Face 也使用了 AI 来对抗智能体集群。Delangue 团队最初使用的专有 AI 模型遵循其内置安全规则，拒绝继续协助所要求的安全任务。Hugging Face 随后转向一个开放模型来帮助防御此次攻击。
但这部纪录片“没有提到对智能体缺乏遏制和监控、闭源模型的保障措施如何阻碍了我们的防御工作，或者我们如何用 AI 借助开放模型进行自卫，”Delangue 写道。
确实，AI 和智能体存在巨大风险。尽管如此，将智能体视为有意识的存在（至少目前如此）有点像早期电影观众第一次看到银幕上火车朝他们疾驰而来时躲到座位下面的情形。
Delangue 对这部影片的评判是，作为新闻作品它令人失望。“不过，它最终成了一部有趣的科幻电影！”
换句话说，对于那些倾向于AI末日论想法的人，请注意：这部纪录片核心所讲述的攻击事件的受害者并不认同其观点。
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：TechCrunch
原文作者：Julie Bort；如有侵权，请联系管理员删除。
