白宫推进 AI 模型发布前自愿评估,框架设计期限为 8 月 1 日 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

白宫推进 AI 模型发布前自愿评估,框架设计期限为 8 月 1 日

2026-07-02 / 共 3,652 字

The White House

据 Reuters 转述 Financial Times 7 月 1 日的报道,白宫正与 AI 公司就新模型发布的自愿标准进行后期谈判,最快可能在随后一周公布安排。此时,Fable 5 刚在暂停约 19 天后恢复服务,GPT-5.6 也仍处于小范围预览。模型开发者希望知道,政府评估会如何影响发布日程,以及哪些用户可以先行使用。

特朗普 6 月 2 日签署的第 14409 号行政令,为相关部门设定了 60 天、即至 8 月 1 日的执行期限。任务包括建立涉密基准测试流程,判断哪些模型应纳入框架;由多机构共同设计自愿评估安排;由人事管理局扩大 US Tech Force 网络安全人才招聘与配置渠道。

新框架试图把政府提前测试模型的做法变成较固定的流程。它能否减少临时限制带来的不确定性,要看后续设计与执行。

行政令要求设计自愿框架,政府访问最长 30 天

第 14409 号行政令的核心在第三条(Secure Frontier Model Deployment)。它要求财政部长、战争部长(通过 NSA 局长)、国土安全部长(通过 CISA 局长),在 60 天内完成两件事:

第一,相关部门共同建立并维护一套涉密基准测试流程,评估 AI 模型的高级网络能力,确定哪些属于本行政令所涵盖的前沿模型(covered frontier model)。具体认定由 NSA 局长与有关官员协商作出。行政令还要求在适当情况下与开发者和研究人员分享评估,因此流程涉密并不等于企业完全无法获得反馈。

第二,设计一套自愿框架,允许 AI 开发者:(1)与联邦政府沟通,判断在研模型是否应纳入框架;(2)在向其他获认可的合作伙伴提供模型前,给予政府最多 30 天的访问时间,并约定保密、网络安全和知识产权保护等要求;(3)与政府共同选择可获得早期访问的合作伙伴。

行政令明确声明:"本条中的任何内容不得被解释为授权建立强制性的政府许可、预审或审批要求。"——这明确限定了本条的授权范围。框架的形成也经历了白宫内部讨论。据 WIRED 报道,最初的草案要求 90 天的预审窗口,但在 AI 公司和时任 AI 顾问 David Sacks 的反对下被特朗普搁置。最终版本将窗口缩短至 30 天,并由白宫幕僚长 Susie Wiles 和财政部长 Scott Bessent 共同推动修改后的方案通过。

自愿参与与强制许可的区别,会直接影响开发者的权利和发布安排。已有的模型访问限制,也不能仅凭这份行政令解释。

Fable 5 暂停约 19 天,暴露风险判断与发布协调难题

2026 年 6 月 9 日,Anthropic 发布 Fable 5 和 Mythos 5。6 月 12 日,美国政府对两款模型实施出口管制,要求限制美国境内外外国国民的访问。据 Anthropic 的说明,指令立即生效,而公司无法实时可靠核实用户国籍,因此暂停了所有用户对两款模型的访问。

据 Anthropic 的事件说明,限制是在政府获悉亚马逊研究人员的一份报告后实施的。研究人员发现了一个越狱方法,能绕过 Fable 5 的安全分类器,使模型识别软件漏洞并在一个案例中生成了漏洞利用代码。Anthropic 称,其后续测试显示,这个越狱没有暴露 Mythos 特有的网络能力。在报告涉及的那个漏洞利用演示上,包括 Claude Haiku 4.5、Opus 4.8、GPT-5.5、Kimi K2.7 在内的所有受测模型,都能生成相同演示;这一结论不涉及它们的全部网络能力。用 Anthropic 自己的话说,这属于一个"边界案例"——Fable 5 的分类器"出于充分谨慎"阻止了某个大概率无害的行为,而亚马逊的越狱恰好解锁了它。

Anthropic 对风险程度的判断,与政府采取的限制措施形成了分歧。6 月 26 日,美国政府批准向部分美国机构恢复 Mythos 5 访问。6 月 30 日,两款模型所受的这项出口管制解除;7 月 1 日,Fable 5 向全球用户恢复服务。Mythos 5 仍以部分机构和 Glasswing 合作伙伴为对象,不能把解除这项管制理解为所有人都能使用。

这约 19 天的中断说明,政府与开发者需要更清楚地沟通风险程度和处置方式。若能提前约定评估标准和处置程序,双方更容易判断何时需要调整防护、限制访问或恢复服务。

Anthropic 承诺扩大政府测试、信息共享和联合研究

Anthropic 在 6 月 30 日的重新部署公告中列出了四项政府合作承诺。公司称,其中既有既往合作,也有为配合新框架提出的扩展安排:

第一,发布前向政府提供模型测试。 对于在国家安全相关领域实质性推进能力前沿的模型,Anthropic 将在广泛发布前向指定政府合作伙伴提供模型及其安全防护措施的扩展早期访问权限。政府评估人员可以独立评估模型能力,并测试防护措施。Anthropic 还将派驻技术员工与政府评估人员一起工作。

第二,快速威胁情报共享。 当发现重大越狱或滥用模式时,Anthropic 将迅速调查、分类并通知政府相关部门,在公开发布前分享威胁情报报告,同时参与第 14409 号行政令第二节设立的跨机构 AI 网络安全漏洞信息交换所。

第三,联合研究的专用资源。 Anthropic 将组建专门团队研究双方共同关心的 AI 安全问题,提供大量计算资源支持政府测试和研究。

第四,共同的行业标准。 Anthropic 表示,将与政府和同行制定共享的自愿安全与评估标准,贡献评测、工具和实践经验。此外,它还与亚马逊、微软、谷歌及其他 Glasswing 合作伙伴起草越狱严重性评估框架,拟从四个维度评分:能力增益(越狱后模型能力超出已有工具多少)、能力广度(同一技术适用于多少种攻击任务)、转化为攻击的难易程度,以及获得这种技术的难易程度。

Anthropic 在公告中写得直白:"政府参与 AI 发布需要一个持久、透明的流程,给予网络防御者和其他人对强大模型访问的确定性。这些规则应当被编纂为强有力的监管,并平等地适用于所有前沿模型开发者。"

Anthropic 希望这些规则平等适用于所有前沿模型开发者,并将自身合作经验作为行业讨论的参考。其他实验室是否采用相同承诺,仍取决于谈判结果。

Google 参与谈判,OpenAI 先向少量伙伴预览模型

Reuters 7 月 1 日援引消息人士称,Google 在发布更强的编程模型前与政府沟通,也参与了行业标准谈判。报道没有据此确认某款模型已达到行政令的纳入门槛。Google 曾在 5 月 19 日的 I/O 公告中表示,计划次月推出 Gemini 3.5 Pro;原定窗口过后,外界仍在关注它的发布安排。具体日期、是否纳入自愿框架,以及政府访问持续多久,都需要另行确认。

OpenAI 已于 6 月 26 日开始 GPT-5.6 Sol、Terra、Luna 的有限预览。公司说明,应政府要求,先向一小组合作伙伴开放,参与名单已与政府共享。OpenAI 表示"不认为这种政府访问流程应该成为长期默认",并称将在继续测试和协调的同时,争取在随后几周扩大开放。它没有在该公告中给出确定发布日期,也没有说新框架通过后便会自动上线。

此前草案讨论的 90 天窗口,最终缩短为最多 30 天。不同规模实验室承担这类安排的能力可能不同:除等待时间外,还要投入人员配合测试。是否影响迭代速度,要看访问期如何与原有研发和安全评估并行。

评估反馈、国际访问和开放权重仍需细则

行政令要求在 8 月 1 日前建立涉密评估流程,但没有公开具体测试内容。后续设计至少需要回答三个问题:

第一,开发者能获得哪些评估反馈。 测试流程涉密,企业可能难以自行复现评估;行政令又允许在适当情况下分享结果。反馈的范围和时间,会影响实验室能否提前安排发布,而不必等到最后阶段才得知问题。

第二,国际访问如何安排。 FT 报道称,谈判涉及哪些外国组织能在何种条件下访问相关前沿模型。这会影响海外客户和开发者的选择。Fable 5 暂停期间,一些用户转向包括中国开放权重模型在内的替代产品;访问规则越不确定,用户越需要准备替代方案。

第三,开放权重模型如何参与。 一些发布者可能缺少配合政府测试的资源,权重公开后的传播方式也不同于托管服务。即使某款模型达到纳入框架的门槛,也不能从 Fable 5 的个案直接推导出其权重必然受到出口管制;相关法律依据、适用范围和执行办法仍需分别说明。

固定评估流程能否减少发布中的临时限制

第 14409 号行政令试图为政府参与模型评估建立固定程序。它延续了自愿合作的形式,同时增加了部门分工、执行期限和涉密测试安排。

与此前的行业安全承诺相比,这次行政令更具体地规定了谁来评估、何时完成设计,以及政府可以提前访问多久。截至本文发稿,框架仍在谈判,具体权限与程序有待说明。

Anthropic 一方面曾起诉国防部的供应链风险认定,另一方面也继续扩大政府评估合作。两种立场涉及不同事项。公司在重新部署公告中说明,发布前测试合作已有近两年基础,参与此次行政令讨论也早于模型暂停。它希望把合作经验转化为更稳定、平等适用的规则。

如果 FT 所报的时间表兑现,随后的公告应能解释评估怎样启动、结果如何反馈、早期用户如何选择。8 月 1 日则是相关部门完成设计的期限。对开发者而言,更有用的检验是:这些流程能否让发布时间和访问条件更可预测,同时保留行政令承诺的自愿参与边界。

来源

  • Promoting Advanced Artificial Intelligence Innovation and Security — Executive Order 14409 · The White House
  • US in Talks With AI Companies for Voluntary Model Standards, FT Reports · Reuters / Financial Times
  • White House Accelerates Plans for AI Model Standards · Financial Times
  • Redeploying Claude Fable 5 · Anthropic
  • This Is How Trump Finally Signed the AI Executive Order · WIRED
  • US in Talks With AI Companies Over Voluntary Standards for New Models · The Next Web
  • Trump Finds an AI Policy He Can Live With · POLITICO
  • AI News Today July 3 2026 · Build Fast with AI

评论

登录后即可参与评论。

加载评论中…

相关文章

  • 特朗普签署要求审查前沿 AI 模型安全风险的行政令

    美国 AI 模型评测框架临近 8 月 1 日期限,发布规则仍待明确

    2026-07-09

  • Claude by Anthropic app logo on smartphone screen

    美国政府介入前沿 AI 模型发布:自愿评估之外,还有出口限制

    2026-06-28

  • The Verge 为 Anthropic Mythos 5 回归报道制作的拼贴图:Dario Amodei、特朗普、模型风险曲线与五角大楼

    美国允许向部分机构恢复 AI 模型 Mythos 5 访问,Fable 5 仍待放行

    2026-06-29

AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact
Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

2026-06-20

  • OpenAI 总部大楼外景。GPT-5.6 今日起通过 ChatGPT 和 API 向全球公众开放。

    GPT-5.6 从限制预览转向公开发布,政府参与测试的边界仍待明确

    2026-07-09

  • Sam Altman 坐在美国国旗前

    Altman 呼吁放慢 AI 发展节奏,行业如何协调仍无定案

    2026-08-02