Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

2026-06-20 / 共 3,893 字

2026 年 6 月 17 日,法国埃维昂莱班,G7 峰会闭幕日。在一场闭门工作午餐上,Anthropic CEO Dario Amodei 与 Google DeepMind CEO Demis Hassabis、美国总统特朗普等人讨论 AI 治理。据 CNBC 援引知情人士报道,Amodei 在会上提议:民主国家应组建以美国为首的 AI 联盟,共同管理前沿模型的获取权限、协调芯片供应链,并应对网络安全与生物恐怖主义风险。

五天前,美国政府向 Anthropic 发出出口管制指令,限制非美国人士获取 Fable 5 和 Mythos 5。公司随后暂停了这两个模型对所有客户的服务。

Amodei 多年来一直呼吁政府干预前沿 AI 风险。如今,公司受到访问限制,他仍在推动国际合作。这使一个问题变得具体:政府应有多大权力限制模型,又该用什么程序约束这些权力?

从模型发布、暂停服务,到 G7 提案

6 月 9 日,Anthropic 发布面向更广泛用户的 Claude Fable 5,以及限制访问范围的 Mythos 5。此前的 Mythos Preview 已因漏洞发现能力引发关注,新模型的网络安全能力与访问安排也因此受到审视。

6 月 10 日,Amodei 在个人博客发表文章《Policy on the AI Exponential》,以《指环王》中树胡子的寓言开篇:AI 以闪电速度前进,而政策机器则像行动迟缓的树人。"我们迫切需要激活一套缓慢而摇摇欲坠的政策机制,来应对即将以惊人速度叠加的风险和机遇。"他写道。他呼吁对前沿模型实施强制性第三方测试,并借鉴美国联邦航空管理局(FAA)的监管方式,在模型存在不可接受的风险时阻止或撤销部署。他同时要求限定风险范围,防止政治偏袒和任意决策。

6 月 12 日,美国商务部向 Anthropic 发出出口管制指令,要求暂停外籍人士对 Fable 5 和 Mythos 5 的访问,无论其身处美国境内还是境外,也包括 Anthropic 自己的外籍员工。公司为遵守指令,关闭了这两个模型对全部客户的服务。

据《华尔街日报》报道,亚马逊 CEO Andy Jassy 曾向白宫反映对 Fable 5 的担忧,亚马逊研究人员声称通过越狱测试获取了可用于网络攻击的信息。Anthropic 则表示,自己看到的演示只发现了少量已知的轻微漏洞,并不同意据此停服。有关政府曾要求修补或撤回模型、Amodei 拒绝的报道也存在争议,各方对风险严重程度和处理方式有明显分歧。

6 月 17 日,Amodei 出现在 G7 峰会 AI 工作午餐上,与 Sam Altman、Demis Hassabis 等约十几位科技领袖一同会见七国集团领导人。他提出,国际合作的领域应包括前沿模型的结构化访问、排除中国的芯片与关键组件贸易,以及联合应对 AI 在网络、生物恐怖主义和情报领域的风险。

从 6 月 9 日到 17 日,模型发布、政策倡议和政府限制接连发生。停服指令让风险评估与政府权限的讨论变得更加紧迫,而 G7 午餐上的合作提议仍有待各国进一步商议。

从生物物理研究转向大模型,随后创办 Anthropic

Amodei 的职业经历横跨学术研究和模型开发。

Dario Amodei 本科就读于斯坦福大学,随后在普林斯顿大学获得生物物理方向博士学位,并在斯坦福医学院从事博士后研究。这些经历涉及神经系统和蛋白质研究,后来他的工作重心转向机器学习。

他曾在百度和 Google Brain 工作,之后加入 OpenAI,最终升任研究副总裁,领导 GPT-2 和 GPT-3 的开发。他也参与了基于人类反馈的强化学习(RLHF)早期研究,这类方法后来被广泛用于调整模型行为。

在 OpenAI 工作后期,Amodei 与部分同事对公司的发展方向和安全工作有不同看法。2020 年底,他与妹妹 Daniela Amodei 等人离开,随后在 2021 年创立 Anthropic。这家公共利益公司将可控制、可解释和安全的 AI 系统作为使命。

五年后,Anthropic 已发展为大型 AI 公司。其 5 月 28 日融资公告称,H 轮融资后的估值为 9,650 亿美元,当月按当前收入速度折算的年化收入超过 470 亿美元;这不是已经实现的全年收入。公司随后秘密提交上市申请,融资估值也不等于 IPO 定价。Claude Code 是推动其业务增长的重要产品。

支持模型监管,也需要限制政府的裁量权

Amodei 在华盛顿的游说足迹清晰可辨。Anthropic 在 2025 年支持加州 SB 53 和纽约州 RAISE 等透明度立法,并在 2026 年初支持伊利诺伊州 SB 315。他在《纽约时报》撰文呼吁联邦层面的 AI 透明度标准。在公开政策倡议中,他逐渐从要求透明披露转向支持更强的约束:前沿 AI 模型正变得如此强大,以至于自愿性的安全承诺已经不够——政府必须介入。

Yann LeCun 在 Facebook 上公开批评 Amodei"荒谬的恐惧贩卖",并写道"种瓜得瓜,种豆得豆"。R Street Institute 的政策分析师 Adam Thierer 则承认,Anthropic"通过邀请对前沿模型实施深远控制,不断提高了华盛顿的监管温度",但政府此次行动仍代表着"AI 政治化和对先进计算集中控制的一次重大升级"。

政府文件呈现出的另一项诉求,是确保美国政府能够持续使用所依赖的 AI 系统。Tech Policy Press 的分析将 6 月 5 日 NSPM-11 号国家安全总统备忘录中的这一要求,与随后影响海外用户的访问限制放在一起讨论。两项措施对象和适用范围不同,却都涉及技术依赖:美国担心供应商限制自己的使用,盟友也可能担心美国限制它们的使用。

Brennan Center 高级法律顾问 Amos Toh 的批评指向这种张力:政府希望引入更多商业 AI 技术,同时又不愿接受供应商可能附加的限制。

美国主导的 AI 联盟,能否获得盟友信任

在 G7 峰会上,Amodei 继续提议由美国主导国际 AI 合作。据 CNBC 援引知情人士报道,加拿大总理马克·卡尼在讨论中支持美国发挥领导作用;OpenAI 全球事务负责人 Chris Lehane 表示,在场的非美国领导人也承认美国"当然可以发挥领导作用"。

访问限制也引发了技术依赖方面的担忧。法国政治人物、前内政部长 Bruno Retailleau 在 X 上写道:"一个依赖他国技术的国家,就是一个可以被一夜之间拔掉插头的国家。"

Euronews 的报道标题直白:"西方盟友带着苦涩余味来到 G7 AI 峰会"。就在峰会期间,Anthropic 仍在与特朗普政府就出口管制进行谈判。公司声明称"双方正在努力尽快解决此事"。

在 Tech Policy Press 的深度分析中,Justin Hendrix 指出,白宫在面临"前沿模型风险的第一次真正考验时即兴发挥","可能最终危及其所宣称的确保美国 AI 领导力的目标"。

对模型进展的预期,推动他要求加快政策准备

Amodei 将政策紧迫性建立在一个预测上:如果模型能力继续随计算投入提升,一两年后可能出现他所说的“强大 AI”。这个时间判断依赖扩展趋势继续保持,以及更多计算能够转化为更广泛的能力。

在这套判断下,政策制定需要数年,而模型能力可能在更短时间里改变。Amodei 用“霍比特人与树胡子”的比喻描述这种速度差。是否认同他的能力预测,与是否支持某一种政府限制措施,是需要分别讨论的问题。

在文章的结尾,他写道:"AI 行业流行一种说法,认为这是一个公关问题:AI 需要'更好的营销'。我完全拒绝这种框架。人们担心 AI 是因为他们正确地感知到风险是真实的,而不是因为 AI CEO 们不够乐观。作为 AI 领导者,我认为继续对这些风险保持透明是我的责任。"

模型停服让讨论从原则走向了执行。接下来值得观察的,是风险依据能否公开、限制范围是否明确,以及企业和受影响用户是否有清晰的申诉与恢复访问程序。这些安排将决定一套治理方案如何影响模型开发者与使用者。

来源

  • Anthropic:H 轮融资公告(2026-05-28)

  • Dario Amodei:个人履历

  • CNBC: CEOs of Anthropic and Google DeepMind call for U.S.-led AI coalition in meeting at G7(2026-06-17)

  • CNBC: Anthropic disables access to Fable 5, Mythos 5 on government directive(2026-06-12)

  • Tech Policy Press: Anthropic's Mythos Recall and the White House's Missing AI Safety Playbook(2026-06)

  • Dario Amodei: Policy on the AI Exponential(2026-06-10)

  • Anthropic: Statement on the US government directive to suspend access to Fable 5 and Mythos 5(2026-06-12)

  • Forbes: Anthropic Disabled Fable 5 And Mythos 5 After A U.S. Export Control Order(2026-06-16)

  • The New York Times: Tech C.E.O.s to Discuss A.I. With G7 Leaders(2026-06-17)

  • The Washington Post: Trump's Anthropic restrictions rattle U.S. allies as AI leaders gather at G-7(2026-06-17)

  • TechCrunch: Anthropic files to go public(2026-06-01)

  • Fortune: Anthropic's confidential S-1 signals summer AI IPO race could heat up fast(2026-06-02)

来源

  • CEOs of Anthropic and Google DeepMind call for U.S.-led AI coalition in meeting at G7 · CNBC
  • Anthropic disables access to Fable 5, Mythos 5 on government directive · CNBC
  • Anthropic's Mythos Recall and the White House's Missing AI Safety Playbook · Tech Policy Press
  • Policy on the AI Exponential · Dario Amodei
  • Statement on the US government directive to suspend access to Fable 5 and Mythos 5 · Anthropic
  • Anthropic Disabled Fable 5 And Mythos 5 After A U.S. Export Control Order · Forbes
  • Tech C.E.O.s to Discuss A.I. With G7 Leaders · The New York Times
  • Trump's Anthropic restrictions rattle U.S. allies as AI leaders gather at G-7 · The Washington Post
  • Anthropic files to go public · TechCrunch
  • Anthropic's confidential S-1 signals summer AI IPO race could heat up fast · Fortune

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Anthropic CEO Dario Amodei 接受 Bloomberg「The Circuit」节目主持人 Emily Chang 专访

    Anthropic CEO 谈离开 OpenAI 的信任分歧,在 G7 提议美国主导 AI 联盟

    2026-06-26

  • AI 成为 G7 峰会核心议题,科技领袖与世界领导人共商 AI 治理

    三家 AI 公司负责人出席 G7,马克龙与莫迪担忧美国切断模型服务

    2026-06-26

  • G7 峰会 AI 讨论相关配图

    G7 讨论 AI 治理:Amodei 提议美国主导联盟,Altman 倡议国际测试论坛

    2026-06-20

  • 人像与代码投影叠加,象征 AI 研究人才与政策技术交汇
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

Anthropic联合创始人Tom Brown参与模型解禁谈判,技术经历受关注

2026-07-02

  • The Verge 为 Anthropic Mythos 5 回归报道制作的拼贴图:Dario Amodei、特朗普、模型风险曲线与五角大楼

    美国允许向部分机构恢复 AI 模型 Mythos 5 访问,Fable 5 仍待放行

    2026-06-29

  • Claude by Anthropic app logo on smartphone screen

    美国政府介入前沿 AI 模型发布:自愿评估之外,还有出口限制

    2026-06-28