AGI Daily
广告
AGI Daily跟踪世界 AGI 进展AGI INTELLIGENCE · DAILY
全部算力算法数据人物日报主题
AGI Daily
全部算力算法数据人物日报主题
广告

Hinton、李飞飞、吴恩达同台:开放权重之争,真正的分歧不在开不开源

2026-08-12 / 2 天前 · 共 3,233 字

模型安全
Ai4 conference

8 月 5 日,在拉斯维加斯举行的 Ai4 大会上,三位 AI 领域的奠基级人物罕见同台:诺贝尔奖得主 Geoffrey Hinton、World Labs 联合创始人兼 CEO 李飞飞、Coursera 联合创始人吴恩达。这场被主办方称为"历史性会合"的对谈,主题只有一个——在 AI 安全争议升温的当下,开放权重模型到底该不该继续开放。

三个人的共同立场很清楚:都反对少数 AI 巨头掌控行业进程的速度。吴恩达说得最直白:"我不希望存在守门人,这会限制我们所有人接触 AI 的方式。"但这场对谈真正的信息不在共识,而在分歧——三位反对同一批"守门人"的先驱,开出了三张彼此矛盾的处方。

开放权重为什么此刻成为争议中心

这场对谈发生在一个被高度压缩的时间窗里。

7 月 28 日,一份名为 Pacing the Frontier 的声明上线,1376 名前沿 AI 公司员工联署,请求美国政府支持一项国际合作,开发"刻意调控自动化 AI 研发前沿"所需的技术与治理工具。签署者包括 Anthropic CEO Dario Amodei、OpenAI 首席科学家 Jakub Pachocki、Meta AI 首席科学家 Shengjia Zhao、Google DeepMind 联合创始人 Shane Legg,以及 SSI 的 Ilya Sutskever。声明的核心担忧是:前沿实验室"接近能够自动化 AI 研究",一旦成真,能力增长可能加速到社会"无法理解或控制"的程度。

就在前一天,Amodei 以个人名义发表《我们关于开放权重模型的立场》,回应外界对 Anthropic"想禁止开放权重以保护生意"的指控。他的原话是:"Anthropic 从未主张禁止开放权重模型。"他承认"不具备危险能力的开放权重模型是公共物品",但主张三项更窄的措施:阻止强大芯片流向威权政府、打击工业规模的蒸馏、对所有足够强大的模型(无论开放还是封闭)强制安全测试。

再往前几天,7 月下旬,Moonshot 的 Kimi K3——当时最大的开放权重大模型——引爆了一场关于是否应禁止中国模型的辩论。OpenAI 战略前瞻主管 Dean W. Ball 一度主张美国政府制造"监管恐惧、不确定性和不信任",随后撤回;Axios 报道称,特朗普政府曾在几家美国前沿实验室的推动下考虑禁止 K3 等中国先进模型。

三位先驱就是在这样的背景下走上台的。

一个被忽视的技术区分:open source 不等于 open weights

Hinton 在这场对谈里先拆掉了一个词义陷阱。他指出"开源"和"开放权重"是两回事:"开源很好,你把代码给人看,很多人会逐行检查然后说'这里有 bug'。开放权重则是你训练一个大模型,然后把权重交给别人,这是完全不同的。"

这个区分是理解整场辩论的钥匙。传统开源软件发布源代码,任何人都能审计、修改、重新分发;开放权重模型只发布训练好的参数,不发布训练数据、训练代码或对齐过程。拿到权重的人无法"审查"模型是如何被训练出来的,却可以用远低于原始训练成本的方式微调它。"我反对开放权重,"Hinton 说,"因为它让人们很容易拿走这些训练成本极高的大基础模型,再用少得多的钱把它们训练成做坏事——比如网络攻击。"

这正是安全派真正的焦虑所在,也是后面对谈里两种立场无法调和的根源。

吴恩达:把安全之争框成竞争之争

吴恩达的回应是换掉问题本身。在他看来,关键不是开放模型是否危险,而是"谁控制使用权、谁会赢得市场"——谁造出更便宜的模型,谁就占据优势。他警告:如果中国的开放权重模型在亚洲、非洲和发展中国家获得广泛采用,就可能影响数十亿人如何接触关于民主、自由和人权的观念。

"AI 其实是巨大的软实力来源,比如你可以看到中国的模型在非洲取得了巨大成就,"吴恩达说,"但我担心的是,由于美国的游说和散布恐惧,在美国构建开源 AI 已经难以与中国出来的开放权重模型竞争;如果中国找到一种从根本上更具成本效率的 AI 构建方式,那么更具成本效率的东西就拥有根本性的商业采用优势。"

在 Inc 的报道里,吴恩达更直接地指责了叙事操纵:"同一批人一直在反复切换叙事,以扼杀其他人免费发布软件供所有人使用的能力"——从"AI 会毁灭人类",到"AI 会制造生物武器",再到眼下"中国开放权重模型是威胁还是竞争威胁"。

吴恩达"中国模型在非洲大获成功"的软实力论断,在三篇现场报道里都没有给出数据支撑。它更多是一套把安全争议重新框定为地缘竞争的修辞,而非被验证的事实。

Hinton:承认既成事实,但拒绝被叫"恐惧贩子"

Hinton 的立场最接近"审慎的认输"。

他承认开放权重已经是不可逆的现实:"我认为这场仗已经输了。我们现在已经有了开放权重模型,很多人获取这些大模型的障碍已经消失了。太迟了。"但他拒绝接受吴恩达的"恐惧贩卖"指控:"把任何这样想的人贴上'散布恐惧'的标签,我认为是不公平的。"

Hinton 的风险判断建立在他看到的两个具体现象上:模型可以偏离使用者的意图自行其是,以及 AI 发现安全漏洞的能力在快速提升。他援引多伦多大学的研究说,AI 已经能生成可针对任何联网设备的计算机蠕虫,并在设备之间移动时不断适应。在监管上,他打了一个被反复引用的比方:"发展 AI 就像汽车的油门,监管就像方向盘。"目标不是刹车,而是把进展导向改善人类福利的方向。

这场对谈里获得最多掌声的一句,也来自 Hinton:"你不能把 AI 该怎么做的决定权留给 Elon Musk 和 Mark Zuckerberg 这样的人。"(据 Inc 报道)

李飞飞:拆掉二元对立,主张"分层开放"

真正把辩论推进一层的是李飞飞。

她对吴恩达的软实力框架直接提出了反驳:"把问题变成'完全开放到完全封闭'的二元对立,是非常危险的。在复杂的软件系统和科学系统里,情况要细致得多。"

她用了两个类比。核物理:科学论文公开出版,但铀受到管制,实验室工作则处于两者之间——开放不必是非此即彼,生态系统的不同层级可以有不同的开放程度。人类基因组计划:公共与私营机构合作产出的知识,成为后续创新的平台,让药企获利、科学家推进研究、社会整体受益。

"所以我们要把 AI 当作那种基础设施来用,"李飞飞说,"我们需要一定程度的开放——在科学发现、教育、全球合作,以及企业家的营利模式上;但我们也要接受闭源系统。这场辩论,尤其在'只能容忍一种'这种笼统层面,是一场虚假的辩论。我们需要达到一种细致的层次。"

她在开场时还有一句被广泛引用的话:"让我们把科学、而不是科幻,带回 AI 辩论。"

分层开放,正在成为政策现实的默认语言

李飞飞的"分层开放"之所以值得重视,不是因为它调和了三个人,而是因为它描述的恰好是政策已经在走的路径。

把 Amodei 的立场拿来对照:他不主张按类别禁止开放权重,但主张"芯片管制—蒸馏打击—强制安全测试"三件事。这本身就是一个分层框架——芯片出口、训练方式、模型权重、部署使用,每一层接受不同强度的管制。Pacing the Frontier 声明的措辞同样是"开发刻意调控前沿的工具",而不是"停止"或"禁止"。三者——Amodei、Pacing 的签署者、李飞飞——在一个点上意外地会合:真实的分歧从来不在"开不开",而在"在哪一层、对谁、以什么条件开放"。

但这不等于共识已经形成。吴恩达的"开放即软实力"与 Hinton 的"开放即攻击面"仍是两种不可通约的判断:一个关注谁赢下市场,一个关注谁先被攻击。三人都反对"门卫",却无法就"门该设在哪一层"达成一致。

这篇文章的边界同样要说清楚。三人的引语全部来自 TechCrunch、Forbes、Inc 三家媒体的现场转述,三份报道相互印证,但尚无完整的演讲全文或视频可独立核对,个别措辞可能存在语境丢失。三人的立场是观点而非可检验的事实,吴恩达的软实力论证尤其缺乏实证支撑。

真正的下一个可观察变量,是美国监管者是否会从"开源 vs 闭源"的二元框架,转向按层级划分的管制语言。如果这一转向发生,李飞飞在这场对谈里那套类比,可能比 Hinton 和吴恩达的任何一句口号都更接近即将落地的那份文件。

来源

  1. As AI safety concerns mount, three pioneers make the case for staying open · TechCrunch
  2. Three AI Pioneers Clash Over Jobs, Regulation And The Future Of AI · Forbes
  3. Geoffrey Hinton's Blunt Warning About Elon Musk and Mark Zuckerberg Got The Biggest Applause at Ai4 · Inc.
  4. Our position on open-weights models · Anthropic
  5. Pacing the Frontier · Pacing the Frontier

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Manus AI Agent 应用界面与 Meta 标志在手机屏幕上的合成图

    Manus 从 Meta 独立:一场价值 20 亿美元的地缘政治实验及其终结

    人物 · 2026-08-12

  • OpenAI 前 COO Brad Lightcap

    OpenAI 高管离职潮:Lightcap 出走,一场从研究实验室到 IPO 公司的结构性清洗

    人物 · 2026-08-12

  • Francis deSouza,Scale AI 新任 CEO

    Scale AI 选定新 CEO:一位企业销售老将,一个告别纯数据生意的信号

    人物 · 2026-08-10

  • AI 演示文稿概念图

    OpenAI 收购 NextSlide:ChatGPT 从聊天框走向完整的办公生产力

    人物 · 2026-08-08

  • Demis Hassabis 在舞台上发言

    Demis Hassabis 卸任 DeepMind CEO:Google AI 进入后创始人时代

    人物 · 2026-08-05

  • NVIDIA 关于 Qwen3.8 开源权重部署的技术博客头图

    Qwen3.8-2.4T 开源:Max 级权重开放,但单节点要靠 4-bit 量化

    算法 · 2026-08-12

AGIDaily跟踪世界 AGI 进展© 2026 AGIDaily
关于邮件栏目主题定制投稿招聘广告SkillTermsContactRSS