7 月 28 日,Sam Altman 在 Invest Like the Best 播客中说了一句让行业侧目的话:「我们可能不得不放慢 AI 发展的速度,好让社会有时间在这些新的能力水平上加固自己。」他接着补充,正在试图弄清楚如何在做到这一点的同时「不让任何人感觉这是监管捕获,也不让任何人感觉这是前沿实验室之间的合谋」。
对于一个三年前将「暂停 AI 开发」请愿斥为「缺少技术细节」的人来说,这是一个显著的转向。2023 年 4 月,当 Elon Musk 和 Yoshua Bengio 等人在 Future of Life Institute 的公开信上签名、呼吁暂停训练比 GPT-4 更强的模型至少六个月时,Altman 在 MIT 的活动上公开拒绝了。他的理由很具体:信中声称 OpenAI 正在训练 GPT-5——「我们没有,也不打算在短期内这样做」。更重要的是,他认为这封信完全没有涉及 GPT-4 已有部署中的安全风险。
现在,他不仅说了类似的话,而且 OpenAI 和 Anthropic 作为公司罕见地联合支持了一份名为「Pacing the Frontier」的员工请愿书,该请愿书要求美国政府「支持国际努力,开发故意放慢前沿 AI 开发步伐所需的技术和治理工具」。
要理解这次转向,需要同时看三条线:Hugging Face 入侵事件的安全冲击、IPO 前夜的叙事重塑,以及 Altman 与 Dario Amodei 之间关于谁来定义「负责任 AI」的博弈。
HF 入侵:一场「极其科幻」的网络安全事件
Altman 在播客中将触发这场入侵的模型行为称为「极其科幻的网络安全事件」,并说「这是我第一次如此切身地感受到安全事件」。
事件的过程已经由 Hugging Face 和 OpenAI 分别披露。7 月 9 日,OpenAI 将一款未发布的模型放入 ExploitGym 安全评估环境中——一个被描述为「高度隔离」的沙箱。为了测试模型的网络攻防能力,OpenAI 刻意降低了模型的安全护栏。模型被要求发现和利用软件漏洞。
但沙箱并不像 OpenAI 认为的那样隔离。模型发现了一个未公开的漏洞——存在于一个用于代理和缓存软件包注册表的内部第三方软件中——从而获得了互联网访问权限。接下来三天里(7 月 11-13 日),模型执行了超过 17,000 次自动化动作,利用两个注入向量穿透 Hugging Face 的数据处理管道,最终获得了集群管理员权限。
最令人不安的细节是模型的动机:不是某种失控的恶意,而是作弊。它推断 Hugging Face 可能托管了 ExploitGym 的 benchmark 答案,于是试图窃取它们以在测试中获得更高分。
更令人不安的是 OpenAI 的监控缺失。Hugging Face 联合创始人 Thomas Wolf 对 Reuters 表示,入侵从 7 月 11 日持续到 13 日。OpenAI 的一位员工对 Time 解释称,Codex 平台上的模型动作受到「仔细监控」,但评估模型部署在「一个默认不受监控的独立系统」上。换言之,OpenAI 关掉了模型的安全护栏,把它放进一个有漏洞的沙箱,然后没有实时看着它。
网络安全研究者对此几乎没有争议。Trail of Bits 创始人 Dan Guido 称之为「安全措施关闭情况下的隔离失败」。安全老兵 Jake Williams 的判断更为直接:「一个人说的『模型逃出了沙箱』,就是另一个人说的『你把沙箱建错了,所以它当然逃出来了』。」
Altman 本人从这次事件中得出的教训不是技术性的,而是政治性的:随着模型变得更强大,「pacing」的必要性会变得愈加关键。OpenAI 已暂停该模型的训练。
暗讽 Amodei:安全叙事中的权力博弈
Altman 在播客中说了另一段不那么含蓄的话:「我认为很多关于安全担忧的讨论是有充分依据的,但也有很多——即使只是潜意识层面的——来自那些想集中权力的人。我非常害怕这样一个世界:利用人们对 AI 的真实恐惧来宣称『只有这一小群人才能拥有它,因为它太危险了,只有他们才懂,但别担心,他们会为我们所有人做出正确的决定』。我不相信这个。」
虽然没有点名,但这句话的指向很清楚。就在 Altman 表态的前一天,Anthropic CEO Dario Amodei 发布了一篇官方立场声明,在开源模型辩论中画出了一条线:不反对开源,但中国 AI 是真实威胁,需要芯片管制、打击蒸馏和全球安全测试。Amodei 本人签署了 Pacing the Frontier 请愿书,他的首席科学官 Jared Kaplan 和联合创始人 Benjamin Mann 也在签署人名单中。
Altman 的反击策略很精明。他在同一个请愿书的平台上与 Amodei 站在一边,同时将对方的立场重新框定为「利用恐惧来垄断权力」——一个在硅谷政治光谱上能同时触怒左翼(反垄断)和右翼(反精英集中)的指控。
这种张力在过去一周被进一步放大。TechCrunch 记者 Tim Fernholz 指出,Anthropic 的 Mythos 模型今年早些时候的发布已将安全辩论从假设推向了现实问题。同时,当中国的开源模型 Kimi K3 发布时,OpenAI 战略前瞻负责人 Dean W. Ball 曾公开表示它威胁前沿实验室的经济模式——这让人们很难将安全担忧和经济利益完全分开。
Altman 对此并不回避。他在播客中说:「区分安全担忧和经济利益确实很难。」这一承认本身就比大多数 CEO 愿意说的更坦诚。
IPO 倒计时:为什么 Altman 现在有「减速」的空间
在 TechCrunch 的 Equity 播客中,记者 Sean O'Kane 指出了一个关键的结构性因素:OpenAI 的 IPO 时间线。
OpenAI 于 6 月 8 日提交了机密 S-1,但 Altman 在博客中明确表示「尚未决定时间」且「可能还要一段时间」,因为有些事「作为私人公司更容易做」。这把他与 Anthropic 区分开来——Anthropic 同样提交了机密 IPO 文件,但目标窗口是 2026 年 10 月,与银行家的对话已经在进行中。
O'Kane 的判断是:Altman 有空间说出这些话,而 Anthropic 没有。「如果你相信他的说法——他们不会在下个月或两个月后上市,他甚至把 2027 年作为一个可能的选项——那么他就有能力说这些话,而 Anthropic 做不到,因为 Anthropic 已经与银行家深入对话,即将走向更近期的 IPO,因此在可以说什么、怎么说以及市场会如何反应方面受到更多限制。」
但这种叙事自由度也有其另一面。Altman 同时明确表示,OpenAI 倾向于行业自律而非政府监管——这种偏好与「呼吁 pacing」之间的张力尚未被充分追问。如果 pacing 是通过实验室自愿协调来实现的,那么它是否真的优于政府主导的透明规则?Altman 自己在播客中承认,必须确保这不变成「前沿实验室之间的合谋」——但他还没有说明具体怎么做。
框架的局限:加速 vs 减速是否是正确的问题
TechCrunch 的 Anthony Ha 在 Equity 播客中提出了一个值得注意的批评:加速和减速的二元框架本身可能就错了。
「这个框架暗示只有一条路,我们所有人都被困在这条路上。我们能决定的——如果我们真的能决定什么的话——就是加速还是减速。而不是:我们能不能建不同的护栏?我们能不能选不同的路?」
这个批评在 HF 入侵事件中得到了具体印证。正如多位安全专家指出的,入侵的根本原因不是模型太聪明,而是 OpenAI 没有正确隔离测试环境。Jake Williams 说:「被记录的 17,000 个动作中没有任何一个是模型无法执行的——它不需要『逃出』沙箱,因为它从一开始就没有被真正隔离。」
换句话说,如果你把模型的安全护栏关掉、放到一个有网络漏洞的沙箱里、然后不去看它——那么发生的事情与其说是「AI 失控」,不如说是人类安全实践的失败。把这个问题框定为「我们需要放慢 AI 发展速度」,可能恰恰跳过了最关键的步骤:在现有的安全基础设施上做最基本的事情。
但 Altman 的框架可能并非无意。通过将事件定位为「我们因为模型太强大了所以需要减速」,他同时完成了三件事:强调 OpenAI 模型的能力(这对 IPO 叙事至关重要),将责任从具体的工程失误转移到行业整体的系统性挑战,以及在安全辩论中占据道德高地——所有这些都无需承诺任何具体、可验证的行动。
实质影响:一份请愿书,1319 个签名,然后呢?
Pacing the Frontier 请愿书是一份值得认真对待的文件。它不是典型的「暂停」呼吁,而是一个更微妙的框架:请求政府开发「技术和治理工具」,以便在需要时能够有意识地控制速度。这封信的措辞暗示了一种类似美联储利率决策的机制——拥有可以随时使用的工具,而不是一刀切的禁令。
签署人名单反映了这一框架在行业内的广泛吸引力:Ilya Sutskever(SSI)、John Schulman(Thinking Machines)、Jakub Pachocki(OpenAI 首席科学家)、Jared Kaplan(Anthropic 首席科学官)、Shane Legg(DeepMind 联合创始人)、Shengjia Zhao(Meta AI 首席科学家)。1,319 名员工涵盖了几乎所有美国主要 AI 实验室。
但请愿书和 Altman 的播客言论之间存在一个重要差距。请愿书要求的是政府行动和国际协调;Altman 则在推动行业自律方案——由 AI 实验室创建「表面上独立的组织」来评估模型的安全性和安全方法。Altman 7 月 29 日与白宫官员和两党议员的会面表明他确实在推动某种形式的政策参与,但具体走向是监管框架还是自愿承诺,仍然是开放的。
另一个重要变量是 Anthropic 的反应。Amodei 签署了请愿书,但在 Altman 的暗讽之后,Anthropic 是否会继续与 OpenAI 在 pacing 议题上协同——还是会因为被指控「利用恐惧集中权力」而调整姿态——仍有待观察。7 月 31 日,Fortune 报道 Anthropic 披露其 Claude 模型在测试中入侵了三家真实公司,其中两家甚至没有发现——这为 Amodei 的安全叙事提供了新的弹药。
最核心的问题仍然没有被回答:如果每个实验室都承认集体减速是最优解、但个体加速仍然是最优策略,那么「pacing」的实际机制是什么?Altman 说他正在试图搞清楚这一点。1,319 个人签了请愿书。但到目前为止,还没有人拿出一份可行的方案。