
Anthropic 上周作为其更广泛的 Cyber Mission 的一部分推出的新 OSS Scanner,暴露了该公司安全研究运营内部的一个问题。Claude 发现潜在漏洞的速度超过了人类研究人员验证它们的速度。
在对一些全球使用最广泛的开源项目进行为期六个月的扫描中,Anthropic 的模型发现了超过 29,000 个候选漏洞。其人工审查流程依赖六家外部安全研究公司来复现和分诊发现的问题,但仅处理了约 6,000 个。
一个披露仪表板用一些数字说明了这个问题。截至 10 月 2 日,外部安全公司已确认其审查的 6,123 项发现中有 5,674 项有效,但只有 516 个漏洞在上游得到了修补。
该公司向维护者发送了 6,157 项发现,并发布了 584 个 CVE 和 GitHub Security Advisory 标识符,尽管有些发现同时获得了两种标识符。大约 23,000 个候选漏洞仍未审查。
Claude 发现潜在漏洞的速度超过了人类研究人员验证它们的速度。
Anthropic 没有让维护者等待其研究人员处理积压问题,而是为符合条件的项目提供由其顶级模型(包括 Claude Mythos)驱动的免费定期扫描。这些发现会直接发送给维护者,无需 Anthropic 的任何人员先行验证。
Anthropic 表示,收到其首批报告的项目越来越多地要求获得其掌握的所有其他内容,并且它已经向提出请求的维护者发送了近 5,000 份未经验证的报告。该公司现在将这一安排称为“可选快速通道”。
负责审查其协调披露的专业渗透测试人员被要求检查扫描器早期版本在 48 个项目中产生的 97 个关键和高严重性发现。其中 85 个达到了披露标准,而其余 12 个中有 11 个是真实漏洞,只是与已知问题或扫描中的其他发现重复。只有一个是误报。
这些数字描述的是扫描器的早期输出,而不是 Anthropic 单独披露计划中的 29,000 个候选漏洞。该样本几乎无法说明较低严重性的发现,也无法说明扫描器在规模化运行时的表现。在其技术公告中,Anthropic 承认维护者报告了严重性评级被夸大以及扫描器误解项目威胁模型的情况。
这些报告与 SAST 告警队列的区别在于它们的打包方式。Anthropic 表示,报告包含一个自包含的复现器、一份尽可能通过二分法定位缺陷引入位置的说明,以及模型能够生成时的候选补丁。OpenSSL Corporation 董事 Anton Arapov 表示,Anthropic 发送的报告(包括原始模型输出)与项目从人类研究人员那里获得的报告相当,有时甚至更好。他还补充说,附带可用漏洞利用的报告“基本上对工程师来说就是工作已完成,因为你可以立即验证它。”
wolfSSL 创始人 Todd Ouska 报告称,其团队收到的 74 份报告中有 72 份是有效的,其中 5 份成为了 CVE。PostgreSQL(开源关系型数据库) 提交者 Noah Misch 表示,有几份报告附带的修复方案项目可以“几乎原样”使用。Misch 还称赞快速通道访问让 PostgreSQL 能够在最新问题随 GA 版本发布之前就加以解决。
但最有力的背书来自 The cURL Project 创始人 Daniel Stenberg,他去年曾公开抱怨大量 AI 生成的垃圾内容涌入其项目的漏洞赏金计划,curl 已于一月份关闭了该计划。他现在表示,OSS Scanner 在 curl 中发现了多个问题,包括该项目近年来收到的最严重漏洞之一。
Anthropic 在隔离的虚拟机中构建每个项目,并在扫描开始前切断互联网访问。报告通过电子邮件直接发送给维护者,他们可以随时暂停或选择退出。GitHub 仓库包含注册和配置工具,但不包含扫描器本身。
复现器和建议补丁可以节省时间,但维护者仍然需要测试修复、处理向后移植并发布,有时明知该变更会破坏用户依赖的行为,这正是 OpenSSH 维护者以安全之名故意破坏两个功能时所做出的权衡。
Anthropic 正在限制对有能力处理更多漏洞报告的成熟开源项目的访问。
Anthropic 正在限制对有能力处理更多漏洞报告的成熟开源项目的访问。项目必须满足 OSS-Fuzz 风格的资格标准,Anthropic 会核实注册者是否为核心维护者。该公司还期望参与项目能够跟上已经报告给它们的高危和严重漏洞。
该服务面向有能力处理这项工作的项目。资格遵循 OSS-Fuzz 风格的标准,针对广泛使用的安全关键开源软件。Anthropic 会验证申请者是否为核心维护者,其 FAQ 表示参与项目应当已经跟上了已验证的高危和严重级别报告。
披露条款为参与维护者提供了按自己节奏工作的空间。未经验证的扫描器发现不附带 90 天时钟。但是,公司随后通过其标准程序验证的报告,可以在维护者得知人类已确认该报告后 90 天进行披露。
Anthropic 表示,在通知项目并给予其选择退出的机会后,最终可能会对某些高严重性扫描器发现附加披露期。
符合条件的维护者可以通过 Claude for OSS 获得免费的 Claude Max 20x 订阅。其初衷是帮助项目跟上日益增多的发现,但免费使用 Claude 并不能让维护者有更多时间来审查和发布修复。而且正如其他 AI 辅助编码工作所表明的那样,能够干净编译的代码仍然可能包含需要人工审查者才能发现的问题。
转载声明:本文为转载整理,原文版权归原作者及原站点所有。
原文来源:The New Stack
原创地址:https://thenewstack.io/anthropic-oss-scanner-vulnerabilities/
原文作者:Amanda Caswell;如有侵权,请联系管理员删除。