OpenAI 与 Trail of Bits 推出开源安全计划,核验 AI 报告并协助修补 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

OpenAI 与 Trail of Bits 推出开源安全计划,核验 AI 报告并协助修补

2026-06-25 / 共 3,753 字

Engadget / Samuel Boivin / Shutterstock

2026 年 5 月,Mozilla 在柏林 Pwn2Own 黑客大赛前修复了 Firefox 的 WebAssembly 漏洞 CVE-2026-8390;安全公告发布于 5 月 12 日。OpenAI 随后披露,研究人员在安全评估中借助 GPT-5.5 发现了该漏洞,补丁发布后,六个报名挑战 Firefox 的参赛项目中有五个退出。

6 月 22 日,OpenAI 在宣布 Patch the Planet 计划时,引用了这一先前案例。新计划属于今年 5 月推出的 Daybreak 网络安全项目,由 OpenAI 与安全研究公司 Trail of Bits 联合发起,HackerOne 和 Calif 参与协作。团队将 AI 漏洞发现与人工核验、补丁开发结合起来,协助开源维护者核验报告、测试并合并补丁。

模型访问受限之际,OpenAI 扩展防御用途

Patch the Planet 发布时,行业正面临更严格的模型访问限制。6 月 12 日,美国政府对 Anthropic 的 Claude Fable 5 和 Mythos 5 下达出口管制指令,要求限制境内外外国公民访问。Anthropic 表示无法即时可靠核验国籍,因而暂停了两款模型的全部用户访问。两款模型在 6 月 9 日推出时,Fable 面向一般用途,Mythos 则只向少量可信 Project Glasswing 伙伴开放。据《华尔街日报》报道,亚马逊 CEO Andy Jassy 曾向财政部长 Scott Bessent 等官员通报研究人员从 Fable 5 获取网络攻击相关信息的情况。

这场争议涉及两个相互关联的问题:如何限制能力被滥用,以及如何让防御者使用同样的能力。OpenAI 此次继续限制 GPT-5.5-Cyber 的访问范围,同时资助安全专家把模型用于漏洞验证和修复。

OpenAI 网络安全技术负责人 Fouad Matin 向 WIRED 表示:「开源维护者出于对开源的热爱而工作,而现在他们被困在审查『AI 垃圾 CVE 报告』的泥潭里。」Patch the Planet 的目标是「尽可能高效地降低维护者的负担——代码库评估、验证潜在报告、创建补丁并落地。我们想抵消成本,无论是 token 还是人力,去尽可能多地修补世界上的软件。」

首周覆盖 19 个项目,提交前由工程师审核

Patch the Planet 要求安全工程师先审核 AI 发现,再提交给维护者。Trail of Bits 在启动阶段投入了整个安全研究团队;据 WIRED 报道,首个五天冲刺有约 25 名工程师参与,约占公司人力的五分之一,覆盖 19 个开源项目。工程师负责确认有效性、评估严重性并协助开发补丁,维护者决定接受哪些修改以及如何披露。

Trail of Bits CEO 兼联合创始人 Dan Guido 说:「Patch the Planet 是一项互联网规模的努力,旨在帮助开源软件领先于 AI 漏洞狩猎工具。但它也是一项努力,帮助开源社区看到 AI 编码工具的好处,而不仅仅是坏处。」

按 Trail of Bits 的首周公开统计,团队发现数百个问题,提交 64 个 Pull Request 和 51 个 Issue,其中 19 个 Issue 已关闭并修复,37 个补丁已合并。这些贡献也包括测试、正确性修复和工程改进。另有发现通过 HackerOne、GitHub 安全公告、邮件列表和私有分支等渠道协调披露,尚未公开。

首轮项目覆盖网络、密码学和软件供应链等基础设施:cURL、NATS Server、pyca/cryptography、Sigstore、aiohttp、Go 项目、freenginx、Python 和 python.org、urllib3、PyPI、SimpleX、Valkey、RustCrypto 等。目前已有超过 30 个项目加入,等候名单仍在增长。

cURL 的参与也值得关注。创始人兼首席开发者 Daniel Stenberg 曾公开批评 AI 漏洞报告带来的维护负担,形容其为「被一千个 AI 垃圾报告慢慢淹死」。先审核、再提交,并提供修补帮助,正是在回应这类维护者的需求。

GPT-5.5-Cyber 用于漏洞分析,Codex 辅助测试与补丁开发

Patch the Planet 使用 GPT-5.5-Cyber 和 Codex 等工具。OpenAI 公布,更新后的 GPT-5.5-Cyber 在复现已知漏洞的 CyberGym 单模型评估中取得 85.6%,标准 GPT-5.5 为 81.8%。WIRED 引述的 Mythos 5 成绩为 83.8%,来自另一方公布的测试。GPT-5.5-Cyber 通过 Trusted Access for Cyber 仅向通过审核、从事授权安全工作的团队和研究人员开放。

同期更新的 Codex Security 插件可扫描代码、验证漏洞并生成供人审核的补丁。OpenAI 表示,自 3 月云端研究预览版上线以来,Codex Security 已扫描超过 3,000 万次提交、覆盖超过 3 万个代码库,人工审核标记为「已修复」的发现超过 7 万项。Matin 透露,OpenAI 已为开源和私有代码的 Codex Security 使用补贴了「大约 20 万亿 token」。

Trail of Bits 的博客记录了几类工作:

一天搭建的 Fuzzing 实验室。 工程师设定目标并调整提示词,GPT-5.5-Cyber 接到「发现可远程利用的漏洞」的任务后,判断逐行通读一个已被反复审查的 C 库源码效率较低,转而开展模糊测试。它用不到一天时间搭建了完整的 fuzzing 实验室:运行时错误检测器(sanitizer)和变体构建、基于现有测试的种子语料库、覆盖十几个入口点的测试驱动程序(harness)。它还搭建了模拟操作系统资源受限等背压条件的测试框架,测试常规 API 模糊测试较难触达的异常状态。Trail of Bits 估计,这些工作由一名 fuzzing 专家手动完成可能需要两到三周。

历史 CVE 变体分析。 Trail of Bits 用 Codex 的 /goal 功能配合 GPT-5.5-Cyber,构建针对历史 CVE 的变体分析流程,并称输出大多具有较高的核查价值。OpenAI 另披露,在 dnsmasq 上,Codex Security 曾独立标记出与后来修复的六个 CVE 中四个相对应的漏洞模式。

跨项目差分测试。 研究人员让 Codex 对实现了相同加密算法和标准(如 X.509 证书)的多个项目进行互相对照测试,发现了包括 PyCA 中 AES-GCM 问题和多个 X.509 问题在内的行为差异和缺陷。

报告增多后,核验、分级和修补成为主要负担

Trail of Bits 在博客中判断:「发现漏洞现在是容易的部分。」在这次实践中,团队认为更昂贵的工作集中在后续处理:确认发现、评估严重性、写出维护者能接受的补丁、加固周边代码、防止类似问题再次出现,以及协调披露。

这些后续工作依赖维护者有限的时间。OpenAI 援引 Linux 基金会与哈佛大学研究称,在研究覆盖的广泛使用开源项目中,94% 的项目由不到 10 名开发者贡献一年内新增代码的 90% 以上。报告数量上升而核验和修补人力不变,就容易形成积压。

Trail of Bits 开发了一个名为 Patchy 的机器人来追踪所有工作进度。Patchy 监控每个项目,将每一项新发现和已合并补丁推送到 Slack,并在补丁落地时庆祝性地喊出「PATCHY HAPPY」。团队同时发现,严重性判断需要项目背景:如果不提供项目特定的威胁模型和严重性标准,模型倾向于将所有发现都标记为「严重」。PyCA 的安全文档在减少误报方面「效果显著」,而像 AGENTS.md 这样明确告诉模型查阅哪些文档的文件则产生了「最一致和有效的结果」。

扩大安全合作,为维护者留下可持续使用的工具

五眼国家的网络安全机构在 6 月 22 日发表联合声明,警告「前沿 AI 模型预计将超越当前行业预期,从根本上改变进攻性和防御性网络能力。时间线不是年,而是月……在这种环境下,网络韧性至关重要。」

网络安全机构呼吁组织提高韧性,OpenAI 也在扩大面向防御方的合作。公司表示,过去一个月已与澳大利亚、加拿大、法国、德国、日本、韩国及欧盟机构建立 Trusted Access 合作,并推出 Daybreak 网络安全伙伴计划,启动伙伴包括 Accenture、Cisco、CrowdStrike、IBM、Okta、Palo Alto Networks 和 Wiz。

两家公司都在筹备 IPO,网络安全能力和发布安排也成为竞争的一部分。Fable 5 面向较广用户,但 Mythos 5 从一开始就采用可信伙伴访问;OpenAI 的 GPT-5.5-Cyber 同样有限开放。两者都需要在可用性、核验和访问控制之间做出安排,单次发布并不能说明哪套方案长期更有效。

据 WIRED 报道,参与项目可获得六个月的 ChatGPT Pro 和 Codex Security 免费支持;OpenAI 公告将后者注明为有条件访问,另提供 API 额度。团队还会留下可持续使用的基础设施和工作流程改进。Guido 说:「到目前为止,Patch the Planet 只有大约一半时间花在发现漏洞上。我们试图找到最表层、最容易发现、最严重的漏洞并将它们清除,但另一半时间我们花在定制化 agent 上,让它们能持续在代码库上工作,这样我们可以把它们留给维护者,并教会他们如何使用。」

Patch the Planet 的后续效果,要看工程师和模型能否持续减少维护者的核验与修补负担。首周合并的补丁提供了初步结果,留给项目的测试设施、文档和自动化工具,则决定这份支持能否在集中投入结束后继续发挥作用。

来源

  • Patch the Planet: a Daybreak initiative to support open source maintainers · OpenAI
  • Introducing Patch the Planet · Trail of Bits
  • OpenAI Launches Full-Scale Effort to Patch Open-Source Bugs as It Takes on Anthropic's Mythos · Wired
  • OpenAI launches new initiative to help find and patch open-source bugs · TechCrunch
  • OpenAI's new Daybreak initiative will help open-source projects fend off bugs · Engadget
  • OpenAI expands Daybreak with Patch the Planet and full GPT-5.5-Cyber release · SiliconANGLE

评论

登录后即可参与评论。

加载评论中…

相关文章

  • OpenAI Daybreak 合作伙伴计划宣传图

    OpenAI 推出 GPT-5.6-Cyber,向经审核的安全团队开放

    2026-08-10

  • OpenAI 关于自主漏洞发现与补丁管线的官方配图

    OpenAI 网络管线一次跑出 948 条 Linux 提权路径

    2026-11-05

  • Anthropic Project Glasswing 网络安全防御计划官方宣传图

    安全组织 FIRST 上调预测:2026 年公开漏洞约 6.6 万个

    2026-06-15

  • Fairwind 计划主视觉:为政府与企业提供主动网络防御
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

Google 发布 Gemini 3.8 Flash Cyber,仅向通过审核的机构开放

2026-09-02

  • PatchBench 图表对比三种头部 Agent 的单一 PoC、安全验证与完整解题率

    AI 修漏洞,挡住一次崩溃还不够:新测试要求追查根因

    2026-09-04

  • ChatGPT Work 产品界面展示,包含跨应用任务执行面板和内置 Codex 编码能力

    OpenAI 发布 ChatGPT Work,可跨应用处理长任务并生成办公文件

    2026-07-10