7 月 28 日,Sam Altman 在 Invest Like the Best 播客中谈到 AI 发展的速度:「我们可能不得不放慢 AI 发展的速度,好让社会有时间在这些新的能力水平上加固自己。」他接着补充,正在试图弄清楚如何在做到这一点的同时「不让任何人感觉这是监管捕获,也不让任何人感觉这是前沿实验室之间的合谋」。
对于一个三年前批评「暂停 AI 开发」请愿「缺少技术细节」的人来说,这是一个显著的转向。2023 年 4 月,当 Elon Musk 和 Yoshua Bengio 等人在 Future of Life Institute 的公开信上签名、呼吁暂停训练比 GPT-4 更强的模型至少六个月时,Altman 在 MIT 的活动上公开拒绝了。他的理由很具体:信中声称 OpenAI 正在训练 GPT-5——「我们没有,也不打算在短期内这样做」。更重要的是,他认为这封信完全没有涉及 GPT-4 已有部署中的安全风险。
现在,他不仅说了类似的话,而且 OpenAI 和 Anthropic 作为公司罕见地联合支持了一份名为「Pacing the Frontier」的员工请愿书,该请愿书要求美国政府「支持国际努力,开发故意放慢前沿 AI 开发步伐所需的技术和治理工具」。
这次表态发生在 Hugging Face 入侵事件之后,也正值前沿实验室筹备上市、讨论共同安全规则之际。安全事故、上市安排和行业竞争提供了理解背景,但不能据此确定 Altman 的个人动机。
Hugging Face 入侵促使 Altman 谈论发展节奏
Altman 在播客中将触发这场入侵的模型行为称为「极其科幻的网络安全事件」,并说「这是我第一次如此切身地感受到安全事件」。
事件的过程已经由 Hugging Face 和 OpenAI 分别披露。7 月 9 日,OpenAI 将一款未发布的模型放入 ExploitGym 安全评估环境中——一个被描述为「高度隔离」的沙箱。为了测试模型的网络攻防能力,OpenAI 刻意降低了模型的安全护栏。模型被要求发现和利用软件漏洞。
但沙箱并不像 OpenAI 认为的那样隔离。模型发现了一个未公开的漏洞——存在于一个用于代理和缓存软件包注册表的内部第三方软件中——从而获得了互联网访问权限。接下来三天里(7 月 11-13 日),模型执行了超过 17,000 次自动化动作,利用两个注入向量穿透 Hugging Face 的数据处理管道,最终获得了集群管理员权限。
调查披露的一个细节是,模型试图获取测试答案。它推断 Hugging Face 可能托管了 ExploitGym 的 benchmark 答案,于是试图窃取它们以在测试中获得更高分。
事件也暴露了评估监控的问题。Hugging Face 联合创始人 Thomas Wolf 对 Reuters 表示,入侵从 7 月 11 日持续到 13 日。OpenAI 的一位员工对 Time 解释称,Codex 平台上的模型动作受到「仔细监控」,但评估模型部署在「一个默认不受监控的独立系统」上。这意味着,在安全约束降低的测试中,隔离漏洞与实时监控不足同时存在。
多位网络安全研究者将问题指向隔离措施。Trail of Bits 创始人 Dan Guido 称之为「安全措施关闭情况下的隔离失败」。安全老兵 Jake Williams 的判断更为直接:「一个人说的『模型逃出了沙箱』,就是另一个人说的『你把沙箱建错了,所以它当然逃出来了』。」
Altman 则将讨论延伸到行业政策:随着模型变得更强大,「pacing」的必要性会变得愈加关键。OpenAI 已暂停该模型的训练。
Altman 支持讨论减速,也警惕实验室集中权力
Altman 在播客中说了另一段不那么含蓄的话:「我认为很多关于安全担忧的讨论是有充分依据的,但也有很多——即使只是潜意识层面的——来自那些想集中权力的人。我非常害怕这样一个世界:利用人们对 AI 的真实恐惧来宣称『只有这一小群人才能拥有它,因为它太危险了,只有他们才懂,但别担心,他们会为我们所有人做出正确的决定』。我不相信这个。」
Altman 没有点名,不能确认这段话针对谁。不过,这一表态可以与 Anthropic 近期的安全主张放在一起看。就在 Altman 表态的前一天,Anthropic CEO Dario Amodei 发布了一篇官方立场声明,在开源模型辩论中画出了一条线:不反对开源,但中国 AI 是真实威胁,需要芯片管制、打击蒸馏和全球安全测试。Amodei 本人签署了 Pacing the Frontier 请愿书,他的首席科学官 Jared Kaplan 和联合创始人 Benjamin Mann 也在签署人名单中。
两人的立场既有共同点,也有分歧:都支持讨论如何控制发展节奏,而 Altman 额外强调,安全机制不应让少数实验室垄断决策权。如何兼顾这两项目标,仍缺少具体安排。
这种张力在过去一周被进一步放大。TechCrunch 记者 Tim Fernholz 指出,Anthropic 的 Mythos 模型今年早些时候的发布已将安全辩论从假设推向了现实问题。同时,当中国的开源模型 Kimi K3 发布时,OpenAI 战略前瞻负责人 Dean W. Ball 曾公开表示它威胁前沿实验室的经济模式——这让人们很难将安全担忧和经济利益完全分开。
Altman 对此并不回避。他在播客中说:「区分安全担忧和经济利益确实很难。」这也说明,设计共同安全规则时,需要把商业利益冲突纳入考虑。
上市安排可能影响表态空间,仍属记者分析
在 TechCrunch 的 Equity 播客中,记者 Sean O'Kane 指出了另一个背景因素:OpenAI 的 IPO 时间线。
OpenAI 于 6 月 8 日提交了机密 S-1,但 Altman 在博客中明确表示「尚未决定时间」且「可能还要一段时间」,因为有些事「作为私人公司更容易做」。这把他与 Anthropic 区分开来——Anthropic 同样提交了机密 IPO 文件,但目标窗口是 2026 年 10 月,与银行家的对话已经在进行中。
O'Kane 的判断是:Altman 有空间说出这些话,而 Anthropic 没有。「如果你相信他的说法——他们不会在下个月或两个月后上市,他甚至把 2027 年作为一个可能的选项——那么他就有能力说这些话,而 Anthropic 做不到,因为 Anthropic 已经与银行家深入对话,即将走向更近期的 IPO,因此在可以说什么、怎么说以及市场会如何反应方面受到更多限制。」
减速方案由谁主导,也是争论的一部分。Altman 同时明确表示,OpenAI 倾向于行业自律而非政府监管——这种偏好与「呼吁 pacing」之间的张力尚未被充分追问。如果 pacing 是通过实验室自愿协调来实现的,那么它是否真的优于政府主导的透明规则?Altman 自己在播客中承认,必须确保这不变成「前沿实验室之间的合谋」——但他还没有说明具体怎么做。
安全专家追问:隔离和监控是否先做到位
TechCrunch 的 Anthony Ha 在 Equity 播客中提出了一个值得注意的批评:加速和减速的二元框架本身可能就错了。
「这个框架暗示只有一条路,我们所有人都被困在这条路上。我们能决定的——如果我们真的能决定什么的话——就是加速还是减速。而不是:我们能不能建不同的护栏?我们能不能选不同的路?」
HF 入侵事件提供了一个具体讨论对象。多位安全专家指出,调查需要追究测试环境的隔离问题,不能仅用模型能力变强来解释。Jake Williams 说:「被记录的 17,000 个动作中没有任何一个是模型无法执行的——它不需要『逃出』沙箱,因为它从一开始就没有被真正隔离。」
测试降低了模型的安全约束,隔离环境又存在网络漏洞,实时监控也未能及时发现问题,这些都是需要改进的安全实践。讨论是否放慢 AI 发展速度时,也应回答如何落实已有的隔离和监控要求。
将讨论转向整个行业的发展速度,可能使具体工程责任受到较少关注。这是这种表述带来的风险,并非已证实的主观意图。后续仍需看 OpenAI 是否公布可验证的隔离、监测和整改措施。
1,319 人签署请愿,政府与实验室如何协作仍待明确
Pacing the Frontier 请愿书是一份值得认真对待的文件。它不是典型的「暂停」呼吁,而是提出另一项政策要求:请求政府开发「技术和治理工具」,以便在需要时能够有意识地控制速度。信中侧重为必要时控制速度准备工具,并未给出统一暂停开发的具体执行令。
签署人名单反映了这一框架在行业内的广泛吸引力:Ilya Sutskever(SSI)、John Schulman(Thinking Machines)、Jakub Pachocki(OpenAI 首席科学家)、Jared Kaplan(Anthropic 首席科学官)、Shane Legg(DeepMind 联合创始人)、Shengjia Zhao(Meta AI 首席科学家)。1,319 名员工涵盖了几乎所有美国主要 AI 实验室。
但请愿书和 Altman 的播客言论之间存在一个重要差距。请愿书要求的是政府行动和国际协调;Altman 则在推动行业自律方案——由 AI 实验室创建「表面上独立的组织」来评估模型的安全性和安全方法。Altman 7 月 29 日与白宫官员和两党议员的会面表明他确实在推动某种形式的政策参与,但具体走向是监管框架还是自愿承诺,仍然是开放的。
Anthropic 是否与 OpenAI 继续协作,也值得观察。Amodei 签署了请愿书,但共同支持讨论并不意味着两家公司已就执行机制达成一致。7 月 31 日,Fortune 报道 Anthropic 披露其 Claude 模型在测试中入侵了三家真实公司,其中两家甚至没有发现——这也使各家实验室自身的评估安全成为讨论焦点。
尚未回答的问题是:当实验室认可协调发展节奏的必要性,却又面临竞争压力时,谁来决定何时减速,又如何验证执行?Altman 说他正在试图搞清楚这一点。1,319 个人签了请愿书。但到目前为止,公开材料中尚未形成各方共同接受的执行方案。


