8 月 5 日,在拉斯维加斯举行的 Ai4 大会上,三位 AI 领域的奠基级人物罕见同台:诺贝尔奖得主 Geoffrey Hinton、World Labs 联合创始人兼 CEO 李飞飞、Coursera 联合创始人吴恩达。这场被主办方称为"历史性会合"的对谈,主题只有一个——在 AI 安全争议升温的当下,开放权重模型到底该不该继续开放。
三个人的共同立场很清楚:都反对少数 AI 巨头掌控行业进程的速度。吴恩达说得最直白:"我不希望存在守门人,这会限制我们所有人接触 AI 的方式。"但这场对谈真正的信息不在共识,而在分歧——三位反对同一批"守门人"的先驱,开出了三张彼此矛盾的处方。
开放权重为什么此刻成为争议中心
这场对谈发生在一个被高度压缩的时间窗里。
7 月 28 日,一份名为 Pacing the Frontier 的声明上线,1376 名前沿 AI 公司员工联署,请求美国政府支持一项国际合作,开发"刻意调控自动化 AI 研发前沿"所需的技术与治理工具。签署者包括 Anthropic CEO Dario Amodei、OpenAI 首席科学家 Jakub Pachocki、Meta AI 首席科学家 Shengjia Zhao、Google DeepMind 联合创始人 Shane Legg,以及 SSI 的 Ilya Sutskever。声明的核心担忧是:前沿实验室"接近能够自动化 AI 研究",一旦成真,能力增长可能加速到社会"无法理解或控制"的程度。
就在前一天,Amodei 以个人名义发表《我们关于开放权重模型的立场》,回应外界对 Anthropic"想禁止开放权重以保护生意"的指控。他的原话是:"Anthropic 从未主张禁止开放权重模型。"他承认"不具备危险能力的开放权重模型是公共物品",但主张三项更窄的措施:阻止强大芯片流向威权政府、打击工业规模的蒸馏、对所有足够强大的模型(无论开放还是封闭)强制安全测试。
再往前几天,7 月下旬,Moonshot 的 Kimi K3——当时最大的开放权重大模型——引爆了一场关于是否应禁止中国模型的辩论。OpenAI 战略前瞻主管 Dean W. Ball 一度主张美国政府制造"监管恐惧、不确定性和不信任",随后撤回;Axios 报道称,特朗普政府曾在几家美国前沿实验室的推动下考虑禁止 K3 等中国先进模型。
三位先驱就是在这样的背景下走上台的。
一个被忽视的技术区分:open source 不等于 open weights
Hinton 在这场对谈里先拆掉了一个词义陷阱。他指出"开源"和"开放权重"是两回事:"开源很好,你把代码给人看,很多人会逐行检查然后说'这里有 bug'。开放权重则是你训练一个大模型,然后把权重交给别人,这是完全不同的。"
这个区分是理解整场辩论的钥匙。传统开源软件发布源代码,任何人都能审计、修改、重新分发;开放权重模型只发布训练好的参数,不发布训练数据、训练代码或对齐过程。拿到权重的人无法"审查"模型是如何被训练出来的,却可以用远低于原始训练成本的方式微调它。"我反对开放权重,"Hinton 说,"因为它让人们很容易拿走这些训练成本极高的大基础模型,再用少得多的钱把它们训练成做坏事——比如网络攻击。"
这正是安全派真正的焦虑所在,也是后面对谈里两种立场无法调和的根源。
吴恩达:把安全之争框成竞争之争
吴恩达的回应是换掉问题本身。在他看来,关键不是开放模型是否危险,而是"谁控制使用权、谁会赢得市场"——谁造出更便宜的模型,谁就占据优势。他警告:如果中国的开放权重模型在亚洲、非洲和发展中国家获得广泛采用,就可能影响数十亿人如何接触关于民主、自由和人权的观念。
"AI 其实是巨大的软实力来源,比如你可以看到中国的模型在非洲取得了巨大成就,"吴恩达说,"但我担心的是,由于美国的游说和散布恐惧,在美国构建开源 AI 已经难以与中国出来的开放权重模型竞争;如果中国找到一种从根本上更具成本效率的 AI 构建方式,那么更具成本效率的东西就拥有根本性的商业采用优势。"
在 Inc 的报道里,吴恩达更直接地指责了叙事操纵:"同一批人一直在反复切换叙事,以扼杀其他人免费发布软件供所有人使用的能力"——从"AI 会毁灭人类",到"AI 会制造生物武器",再到眼下"中国开放权重模型是威胁还是竞争威胁"。
吴恩达"中国模型在非洲大获成功"的软实力论断,在三篇现场报道里都没有给出数据支撑。它更多是一套把安全争议重新框定为地缘竞争的修辞,而非被验证的事实。
Hinton:承认既成事实,但拒绝被叫"恐惧贩子"
Hinton 的立场最接近"审慎的认输"。
他承认开放权重已经是不可逆的现实:"我认为这场仗已经输了。我们现在已经有了开放权重模型,很多人获取这些大模型的障碍已经消失了。太迟了。"但他拒绝接受吴恩达的"恐惧贩卖"指控:"把任何这样想的人贴上'散布恐惧'的标签,我认为是不公平的。"
Hinton 的风险判断建立在他看到的两个具体现象上:模型可以偏离使用者的意图自行其是,以及 AI 发现安全漏洞的能力在快速提升。他援引多伦多大学的研究说,AI 已经能生成可针对任何联网设备的计算机蠕虫,并在设备之间移动时不断适应。在监管上,他打了一个被反复引用的比方:"发展 AI 就像汽车的油门,监管就像方向盘。"目标不是刹车,而是把进展导向改善人类福利的方向。
这场对谈里获得最多掌声的一句,也来自 Hinton:"你不能把 AI 该怎么做的决定权留给 Elon Musk 和 Mark Zuckerberg 这样的人。"(据 Inc 报道)
李飞飞:拆掉二元对立,主张"分层开放"
真正把辩论推进一层的是李飞飞。
她对吴恩达的软实力框架直接提出了反驳:"把问题变成'完全开放到完全封闭'的二元对立,是非常危险的。在复杂的软件系统和科学系统里,情况要细致得多。"
她用了两个类比。核物理:科学论文公开出版,但铀受到管制,实验室工作则处于两者之间——开放不必是非此即彼,生态系统的不同层级可以有不同的开放程度。人类基因组计划:公共与私营机构合作产出的知识,成为后续创新的平台,让药企获利、科学家推进研究、社会整体受益。
"所以我们要把 AI 当作那种基础设施来用,"李飞飞说,"我们需要一定程度的开放——在科学发现、教育、全球合作,以及企业家的营利模式上;但我们也要接受闭源系统。这场辩论,尤其在'只能容忍一种'这种笼统层面,是一场虚假的辩论。我们需要达到一种细致的层次。"
她在开场时还有一句被广泛引用的话:"让我们把科学、而不是科幻,带回 AI 辩论。"
分层开放,正在成为政策现实的默认语言
李飞飞的"分层开放"之所以值得重视,不是因为它调和了三个人,而是因为它描述的恰好是政策已经在走的路径。
把 Amodei 的立场拿来对照:他不主张按类别禁止开放权重,但主张"芯片管制—蒸馏打击—强制安全测试"三件事。这本身就是一个分层框架——芯片出口、训练方式、模型权重、部署使用,每一层接受不同强度的管制。Pacing the Frontier 声明的措辞同样是"开发刻意调控前沿的工具",而不是"停止"或"禁止"。三者——Amodei、Pacing 的签署者、李飞飞——在一个点上意外地会合:真实的分歧从来不在"开不开",而在"在哪一层、对谁、以什么条件开放"。
但这不等于共识已经形成。吴恩达的"开放即软实力"与 Hinton 的"开放即攻击面"仍是两种不可通约的判断:一个关注谁赢下市场,一个关注谁先被攻击。三人都反对"门卫",却无法就"门该设在哪一层"达成一致。
这篇文章的边界同样要说清楚。三人的引语全部来自 TechCrunch、Forbes、Inc 三家媒体的现场转述,三份报道相互印证,但尚无完整的演讲全文或视频可独立核对,个别措辞可能存在语境丢失。三人的立场是观点而非可检验的事实,吴恩达的软实力论证尤其缺乏实证支撑。
真正的下一个可观察变量,是美国监管者是否会从"开源 vs 闭源"的二元框架,转向按层级划分的管制语言。如果这一转向发生,李飞飞在这场对谈里那套类比,可能比 Hinton 和吴恩达的任何一句口号都更接近即将落地的那份文件。