ITPub博客

首页 > 人工智能 > 人工智能 > Signal 协议的形式化验证与 Gemini

Signal 协议的形式化验证与 Gemini

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑

Google DeepMind 的研究人员如何构建了一个新的智能体框架,对 Signal 加密协议的代码进行了形式化验证——这长期以来被视为一项重大的安全挑战

今天,我们分享软件安全领域一个长期被视为重大挑战的里程碑:Google DeepMind 的研究人员引导 AI 智能体,对 Signal 协议底层实际代码的关键安全属性进行了数学证明。Signal 协议是保护 Signal 和 Google Messages 等应用中数十亿次私密对话的技术。

这一突破性发现借助 AlphaProof Code 完成,这是一个用于形式化验证的新型智能体框架,达到了前所未有的深度,将人类专业知识与 AI 智能体相结合。形式化验证——用数学方法证明代码运行正确、没有缺陷——是最高标准的安全保障;然而,它难度大且往往耗费大量人力。

我们的工作标志着 AI 首次被用于以如此深度对广泛部署的加密协议进行形式化验证。这也是首次通过任何方法(无论是否使用 AI)对这样一个广泛部署的协议的实现进行形式化验证。

我们如何验证 Signal

AlphaProof Code 是一个多 LLM(大语言模型) 智能体框架,它像研究团队那样拆分形式化验证的工作:人类专家与 AI 合作决定要证明什么,然后由一组 AI 智能体来完成。

首先,我们的研究人员与多种模型协作,将 Signal 的安全目标转化为形式化的数学规范,并由人类专家逐一审查。随后,由 Gemini Carbon 驱动的智能体完成证明,生成了超过六百万行 Lean 代码。Lean 是一种通过数学方法证明代码正确性的计算机语言。

接下来,智能体审计了证明,并标出了需要人工复核的部分——仅占代码库的百分之一,大幅节省了时间。由于 Lean 会自动检查其余部分,我们的专家可以将审查集中在最需要人类判断的地方。

加密协议几乎支撑着所有数字通信,从网上银行到网页浏览,一个缺陷就可能同时暴露数百万人的信息。这就是专家们数十年来对其开展形式化分析的原因。

但大多数协议验证止步于设计层面。我们的智能体更进一步,证明了编译后的代码满足关键安全属性——例如在设备被临时攻陷前后保持消息受保护——一直追溯到设备上运行的确切代码。由于现实世界的漏洞往往隐藏在设计实现之间的差距中,弥合这一差距使这些证明变得复杂得多。

即便复杂度如此之高,我们的验证过程仅用了四周——而这项任务历史上需要专家团队花费数年——证明了 Signal 的核心加密代码提供了我们专家所指定的安全保护。

为了确认 AlphaProof Code 能够区分正确代码与有缺陷的代码,我们在 Signal 代码的一个隔离版本中重新引入了两个真实的、此前已修复的缺陷。在这两种情况下,系统都生成了经机器验证的证明,表明有缺陷的版本是不安全的。

“虽然此前的形式化验证聚焦于代码中较小的部分,但 Google DeepMind 的方法实现了显著的扩展,”Signal 首席技术官 Ehren Kret 表示。“使用 AI 智能体将实际运行的代码转换为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁不断增长,严格验证 Signal 协议实现让我们对代码的隐私保障更有信心。Ehren Kret,Signal 首席技术官

虽然此前的形式化验证工作必然聚焦于较小的范围,但这一新方法实现了显著的扩展。传统上,验证生产代码严格符合其密码学设计需要大量人工投入,因此使用 AI 智能体自动将实际运行的代码转换为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁不断增长,通过自动定理证明对 Signal 核心协议进行严格验证,让我们更有信心地认为我们的代码兑现了其隐私保障。

安全的未来

攻克这一长期挑战表明,AI 能够为企业、政府和关键基础设施带来顶级的安全保障,帮助抵御智能体驱动的网络威胁。

验证 Signal 的核心密码学为保护其他关键系统奠定了基础,从医疗设备固件到电网软件。

扩展这些技术需要持续研究。结合 CodeMender 等自动化防御智能体,形式化验证可以帮助应对现代网络威胁的速度和规模,打造出以数学证明其防护措施有效的软件。

我们正在开源我们的形式化验证产物供社区使用。请阅读下方的技术论文。

致谢

本研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 完成。

我们感谢 Eric Wieser 协助开源我们的代码,感谢 Owen Jones 提供项目管理支持,感谢 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 的有益讨论。我们感谢 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 对我们方法的反馈。我们还感谢 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 对本项目的支持。


转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:Google DeepMind Blog

原创地址:https://deepmind.google/blog/introducing-alphaproof-code/

原文作者:Pushmeet Kohli and Swarat Chaudhuri;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1307
  • 访问量
    573106