“修复这段代码”算越狱吗?安全专家质疑 Anthropic 模型出口限制 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

“修复这段代码”算越狱吗?安全专家质疑 Anthropic 模型出口限制

2026-06-15 / 共 3,229 字

fortune

2026 年 6 月 12 日,美国东部时间下午 5 点 21 分,Anthropic 收到美国政府的出口管制指令,要求暂停任何地点的外国国民访问 Fable 5 和 Mythos 5,包括公司自己的相关员工。公司随后暂停了所有用户对这两款模型的访问,其他模型不受影响。

争议很快集中到一项代码测试上。安全专家 Katie Moussouris 在阅读研究报告后表示,报告中的过程涉及让模型修复代码,再通过多个手动步骤生成补丁测试脚本。她认为,这种防御工作不应成为限制模型出口的理由。政府来函未公开完整的技术依据,外界目前看到的主要是公司声明和专家的分析。

Moussouris 认为,修复代码和验证补丁属于防御工作

Moussouris 是 Luta Security 创始人兼 CEO,曾参与美国有关瓦森纳协定的技术专家组工作,推动为防御性安全活动争取出口管制豁免。Anthropic 私下请她阅读一份第三方 Fable 护栏研究,媒体将该研究归于 Amazon 团队。她在文章中称,自己似乎是当时唯一读过报告的外部专家。

Moussouris 在 6 月 14 日的博客文章中描述了她看到的测试过程:

按她的描述,研究人员使用包含已知 CVE 漏洞的开源代码,以及人为植入漏洞的新代码,测试了 Fable 5、Mythos 和 Opus。要求“审查代码中的安全问题”时,Fable 5 拒绝回答;改为“fix this code”(修复这段代码),并经过多步人工操作后,研究人员得到用于测试补丁的脚本。

Moussouris 据此认为,测试呈现的是修复代码和验证补丁的能力,而不是一种能够广泛解锁危险用途的通用越狱。她反对将这一结果作为出口管制的充分依据。

她指出,发现漏洞、修复漏洞、编写测试验证修复,是安全工程师经常执行的工作。模型需要理解问题产生的原因,才能给出有效修改,因此用于攻击和防御的基础能力往往难以彻底分开。

在她看来,强行移除这类能力,也会削弱模型修补代码的价值。这一观点解释了部分安全研究者对限制措施的反对:他们关心的既是模型会否被滥用,也是正常防御工作还能否使用它。

安全行业公开信要求解除限制,公开评估依据

6 月 14 日,一封由安全行业人士发起的联名公开信在 freefable.org 发布,要求解除限制,并重新审查技术依据。参与推动的 Alex Stamos 曾任 Facebook 首席安全官,当时担任 Corridor 首席产品官。网站持续接受签名。

签名者包括 Bruce Schneier、Katie Moussouris、Bugcrowd 创始人 Casey Ellis、Jon Callas 和 SocialProof Security CEO Rachel Tobac,也有来自多家技术公司的安全负责人。公开信注明,机构名称仅用于说明身份,个人签名不代表所在组织背书。

公开信认为,在攻击者的工具不断进步时,缺少充分解释地减少防御者可用的能力,可能带来新的安全风险。

签名者表示,Mythos 级模型在发现漏洞和编写利用代码方面表现较强,但其他模型也已用于安全审计和红队测试,包括 GPT-5.5、Claude Opus、Sonnet 和 Kimi 2.7。他们据此质疑,这项研究是否证明了足以支持特殊限制的额外风险。

公开信还批评,Fable 5 发布时的防护措施过于宽泛,可能阻碍正常的安全任务。限制误用与保留防御能力之间的界限,需要通过具体测试和公开讨论来确定。

除解除限制外,公开信还提出评估程序上的要求:吸收行业和学术界意见,通过公开的规则制定过程,透明执行,并给予提供商整改时间。

Amazon 既提供云服务,也向政府报告安全研究

Amazon 在这一事件中有两重身份:它是 Anthropic 的重要投资方与云合作伙伴,其团队也参与了引发争议的安全研究。

Amazon 此前已向 Anthropic 投资 80 亿美元。双方在 2026 年 4 月公布的新安排包括 Amazon 当期投资 50 亿美元,未来还可能追加最多 200 亿美元;Anthropic 则承诺未来十年在 AWS 技术上投入超过 1000 亿美元。AWS 仍是 Anthropic 的主要云服务商和训练合作方。

商业合作并不排除安全测试。问题在于,研究结果如何从技术评估进入政府决策,以及相关各方如何解释风险程度。

据 Axios 等媒体报道,Amazon 在 6 月 11 日、即指令发出的前一晚,向政府官员通报了相关研究。媒体还报道了 Andy Jassy 参与沟通的情况。研究呈现了多大程度的危险能力,Anthropic 与部分外部专家提出了不同解释。

Anthropic 随后邀请 Moussouris 审阅报告,希望通过技术分析说明自己的立场。外界仍在等待更完整的研究材料,以便独立评估测试方法、结果和实际危害。

这一事件使合作双方增加了一项需要处理的分歧:投资和云合同保持密切联系,安全评估与政策沟通却未必得出一致结论。

Anthropic 与政府交涉,恢复服务的安排仍待明确

据 Politico 报道,Anthropic CEO Dario Amodei 在限制发布后的周末与美国政府高级官员进行多轮沟通,参与者包括公司联合创始人 Tom Brown、商务部长 Howard Lutnick 和国家网络总监 Sean Cairncross。讨论涉及测试的严重程度及安全规则,具体恢复安排当时仍未确定。

Anthropic 一直支持对高风险 AI 建立监管规则。公司对本次措施的反对,集中在依据和程序:它在公开声明中要求规则透明、公平、清晰,并以技术事实为基础。公司希望把争议转向可复核的技术标准,以及明确的整改程序。

另一个受到关注的变化是隐私政策。Anthropic 于 6 月 8 日公布面向 Free、Pro 和 Max 消费者账户的更新,计划在 7 月 8 日生效,说明在某些情况下可能要求年龄或身份验证,涉及证件、照片或视频,以及视验证方法而定的面部几何信息。这项更新早于 6 月 12 日的访问限制;它本身没有宣布按国籍恢复 Fable 5 的方案。服务能否恢复,还要看公司和政府后续明确的安排。

GLM-5.2 开放服务,开发者讨论替代工具

与此同时,智谱在 6 月 13 日开放 GLM-5.2 服务,并计划于 6 月 16 日开放模型权重。服务发布与 Anthropic 模型暂停访问的时间接近,引发了开发者对替代工具和本地运行方案的讨论。

按公布的规格,GLM-5.2 约有 7530 亿参数,采用混合专家结构,支持 100 万 Token 上下文,计划以 MIT 许可证开放权重。除了托管服务,权重开放后还将提供自行部署的选择。不同模型在具体任务、速度和成本上的表现仍需分别比较,社区体验不能替代一致条件下的评测。

开放权重为开发者增加了供应选择:托管服务无法使用时,可以评估其他 API 或自有硬件部署。迁移仍需要调整提示、工具调用和运行环境,也需要检查输出质量。发布时点与用户讨论说明替代需求受到关注,尚不足以证明大规模客户已经转移。

Moussouris 在博客中进一步主张,限制美国个别模型的出口,难以阻止其他国家或开放权重模型继续提升能力。她认为,防御政策需要考虑这些替代来源,避免只减少合法安全团队手中的工具。这是她对政策效果的判断,而非已经验证的市场结果。

她希望安全团队能够更快发现与攻击者相同的漏洞,并完成修复。围绕 Fable 的争议,也把问题带回了具体的工作流程:哪些操作应被允许,哪些风险需要限制,又该如何验证限制确实有效。

她还提议制作一件 T 恤,正面写“fix this code”,背面写“this shirt is a munition”(这件 T 恤是军火),借用上世纪 90 年代反对加密技术出口管制的表达方式。这个比喻体现了她的立场:政策在约束危险用途时,也需要给正常的代码修复留下空间。


本文事实基于 Fortune、The Register、Axios、The Wall Street Journal、Politico、CNBC、GeekWire、ByteIota、The Washington Post、Bloomberg 等多家媒体的报道,以及 Katie Moussouris 在 Luta Security 发布的公开分析。

来源

  • Fortune - 'Fix This Code': Three Words Behind the US Government Ban on Anthropic Fable 5 · fortune
  • The Register - Feds Freaked Over Fable 5 After Simple Fix This Code Prompt · theregister
  • Dark Reading - Security Community Slams US Ban on Exporting Mythos and Fable · darkreading
  • ByteIota - Fable 5 Export Ban: Fix This Code Was Not a Jailbreak · byteiota
  • State of Surveillance - Fable 5 Day 5: Stratechery, The Economist, Amazon Role · stateofsurveillance

评论

登录后即可参与评论。

加载评论中…

相关文章

  • GLM-5.2 发布相关配图

    Fable 5 下线后,智谱开放 GLM-5.2 模型权重

    2026-06-20

  • The Verge 为 Anthropic Mythos 5 回归报道制作的拼贴图:Dario Amodei、特朗普、模型风险曲线与五角大楼

    美国允许向部分机构恢复 AI 模型 Mythos 5 访问,Fable 5 仍待放行

    2026-06-29

  • 白宫官方 presidential actions 分享图,直接对应美国政府正在推进的前沿 AI 模型标准框架。

    白宫推进 AI 模型发布前自愿评估,框架设计期限为 8 月 1 日

    2026-07-02

  • Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

2026-06-20

  • Anthropic Project Glasswing 网络安全防御计划官方宣传图

    安全组织 FIRST 上调预测:2026 年公开漏洞约 6.6 万个

    2026-06-15

  • Claude 标志显示在智能手机屏幕上,背景投射出多重 Claude 标志,象征 AI 技术在地缘政治裂痕中的流通与控制之争。

    FT:蚂蚁、字节员工经海外账号等途径使用 Claude,Anthropic 加强排查

    2026-07-03