Anthropic CEO 回应投资人质疑:公众反感 AI,根源是信任危机 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Anthropic CEO 回应投资人质疑:公众反感 AI,根源是信任危机

2026-08-17 / 共 3,622 字

Samyukta Lakshmi / Bloomberg / Getty Images

8 月 15 日晚,Anthropic 联合创始人兼 CEO Dario Amodei 在 X 上分两篇长帖回应投资人 Gavin Baker 的公开质疑。触发争论的,是 Baker 在 All-In 播客中转述的一则二手传言——Amodei 曾设想 Anthropic 成为世界上唯一私营公司;而 Amodei 回应的,是 Baker 由此引出的两点判断:他的风险警告助长了美国反 AI 情绪,以及 AI 治理只能在「监管集中」与「广泛分发」之间二选一。Amodei 承认公众对 AI 的负面观感「是个大问题」,但将原因归结为「根本上是一场信任危机」,而非自己或其他 AI 领袖的风险警告。此时 Anthropic 据报正在筹备今秋 IPO。这场争论也涉及投资者如何看待 Amodei 的公开发言,以及监管和开放模型能否约束 AI 公司的权力。

“唯一私营公司”传言遭否认,争论转向风险警告

事件的起点是 8 月 14 日的 All-In 播客。Atreides Management 首席投资官 Gavin Baker 在节目中说,他信任的「多个人」告诉他,Amodei 曾表示 Anthropic「可能在某个时点成为世界上唯一剩下的私营公司」;他称之为一种「Anthropic 最大化主义」图景——「有 Anthropic,然后是政府,仅此而已」。Baker 称「Anthropic 内部非常有信心」,并补了一句「我肯定建议 Dario 永远不要再对任何人说这句话」。同场的 David Sacks 把这种说法比作「SBF 那一套」,称其「傲慢得近乎负面信号」。

8 月 15 日,Anthropic 研究员 Sholto Douglas 直接否认:「完全错误。我喜欢 Gavin 的观点,但无论他从谁那里听来这个说法,那个人都在撒谎,好让某些人拼命想让你相信的叙事成立。」Douglas 指向 Amodei 自己的文章《The Adolescence of Technology》——Baker 本人也承认,这篇文章把「极端的经济权力集中」列为 AI 的风险之一。

Baker 随后收回「传言属实」的表述,但保留核心论点:这个说法之所以在硅谷「可信」,正因为它与 Amodei 的公开信息一致——如果 AI 可能危险、可能带来经济权力集中,自然就需要「审慎监管」。这触发了 Amodei 当天深夜的两篇回应。「唯一私营公司」说法自始至终是二手转述,Anthropic 方面已否认;本文不把它当作事实,而当作理解这场争论为何爆发、为何此刻爆发的一个引子。

Amodei 认为,监管也可以约束大公司的权力

Amodei 的第一篇回应针对 Baker 的核心框架。Baker 把 AI 的未来归结为一个二选一:「要么通过监管把它集中到少数公司和政客手中,要么把它广泛分发出去。」Amodei 称这是「一个虚假的选择」。

他的论证分三步。第一,硅谷把「监管 = 监管俘获 = 权力集中」当作速记,但他认为这是「过度简化的世界观」;硅谷圈子之外,很多人恰恰把监管理解为约束企业权力、惠及普通人的东西。第二,客观公正的制度过程本身就具有去中心化的力量——他以法院作比方:正式法院有时显得古板精英,但它比「私刑正义」更能保护弱势个体;「制度在最好的情况下能把权力赋予观念而非个人,从而分散权力」。第三,具体到 Anthropic 的政策主张,他声称这些提议「刻意让前沿 AI 公司受损(放缓)、让小竞争者受益」:支持的加州 SB53 与持保留态度的 SB 1047 都豁免了营收或训练成本低于门槛(SB53 为 5 亿美元)的公司;在 CAISI 和白宫推动的测试流程中,前沿模型比追赶者接受更严格的审查;「Pacing the Frontier」联名信也只调节最强模型的节奏、不约束追赶者。

Amodei 在此提出一个与 Baker 框架针锋相对的技术判断:AI「在结构上」就是倾向于集中权力的技术,原因是「规模定律的极端含义」,而不是监管;开源权重「有一些帮助,但远远不够」,因为它们只是把集中转移到拥有最多算力和芯片的玩家身上——「大致就是前沿实验室,外加硬件供应商」。他认为正确的「游戏规则」可以同时实现三件事:处理 AI 的网络安全/生物/对齐风险、制度性地约束前沿公司、给开源权重留出空间。他还反驳了「近几个月未能实现他所偏好的监管路径」的说法,称特朗普政府据报采取的前沿模型部署前测试方案正是他所支持的,也支持 Demis Hassabis 提出的类 FINRA 机构构想。

公众为什么反感 AI?Amodei 归因于长期不信任

Amodei 的第二篇回应转向信息层面。他否认自己的发声「过度负面」,称其在风险与收益之间「大致平衡」:「我各写过一篇主要文章」;访谈里讨论风险时他也会频繁提及巨大收益与解决方案,只是社交网络上传播的短视频片段「往往过度负面,因为那样才有点击量」。

他解释写《Machines of Loving Grace》的动机是「觉得 AI 行业没有描绘出足够鼓舞人心的图景」,并称这篇文章的主体是反驳对 AI 在健康与生物领域潜力的怀疑、论证「未来 5 到 10 年治愈大多数人类疾病」是可能的。更近的《Policy on the AI Exponential》则提出如何精简 FDA 流程,好让 AI 加速的药物研发不被监管拖慢。他也谈到了这种紧迫感背后的个人经历:父亲死于丙型肝炎,几年后才出现直接抗病毒药 sofosbuvir,该药能治愈 95% 的患者,「很可能本可以救他」。

谈到公众反应时,Amodei 同意公众对 AI 的负面观感是「一个大问题」,但不认为它「主要由我或其他警告 AI 风险的领袖造成」。「我认为这根本上是一场信任危机。我认为普通人并不信任公司、政府或科技行业,总是怀疑我们在谋划某种新的方式来坑他们。」他把根源推回「几十年」,AI 反弹「只是它的最新一轮」。他的结论是:现在说「AI 能治愈癌症」更像陈词滥调而非鼓舞,多数人觉得这是欺骗;「真正管用的是真正治愈癌症」。他承认「对 AI 公司(包括 Anthropic)最准确的批评,是我们还没有兑现造福世界的大承诺,这完全怪我们」。

Amodei 与 Zuckerberg 对权力集中的判断有何不同

Baker 将双方分歧概括为 AI 应该集中还是广泛分发。他在 All-In 上说:「我认为 Anthropic 和有效利他主义运动的人相信这项技术太危险以至于不能分发;而 Mark Zuckerberg、我、以及我认为 Elon 和 Jensen 相信的是,这项技术太危险以至于不能集中。」这是 Baker 对双方立场的划分。

Zuckerberg 在 8 月 10 日发布的《The Future is for Everyone》中也讨论了同一问题。Zuckerberg 在文中写道:「认为 AI 如此危险、唯一安全路径是极端权力集中,这种观念本身就成问题。历史上,寄希望于一个绝对权力在足够开明时仁慈地供养人类,从未带来安全或积极的结果。」他进一步断言「不存在单一仁慈的超级智能」,安全应建立在「有利于个人的权力平衡」之上。

Amodei 则认为,监管与权力分散并不互相排斥。他同意 AI 会集中权力,但把原因从「监管」移到了「规模定律」;他认为开源权重无法解决集中问题,因为集中会转移到算力与芯片持有者;他主张通过制度来分散权力。这与「开源即安全」和「封闭即安全」两条主流叙事都不完全相同。Baker 提到的另一背景是:Jensen Huang 7 月 24 日发起的开源权重联名信,Anthropic 是少数未签署的大型实验室之一——OpenAI 后来补签,而 Anthropic 在 7 月 27 日另发声明称「从未主张禁止开源权重模型」。这些不同选择,也是外界持续追问 Anthropic 开放立场的背景。

筹备 IPO 之际,CEO 的公开发言也受到投资人审视

Anthropic 的上市筹备让这场争论受到更多关注。Anthropic 已于 6 月 1 日向美国证券交易委员会秘密提交 IPO 注册文件;5 月的 Series H 融资将其估值推至约 9650 亿美元,年化营收据称已超过 470 亿美元。据《金融时报》报道,投资者正瞄准 10 月、约 2 万亿美元的估值——这是投资者提出的估值设想,公司高管尚未确定估值目标。

Baker 在帖子里也把话说到这个份上:「他即将成为世界上最重要的上市公司之一的 CEO。」他甚至称,几个月前他看 Anthropic 的最大风险是「Dario 自己的言论与行为导致的国家化」。换句话说,在 Baker 这类投资者看来,Amodei 的风险警告可能影响外界对公司的评价:若被解读为「傲慢的末日论者」,会放大公众对数据中心的反感,甚至影响政策环境。而 Amodei 的辩护是,诚实不是负担——「就公共可信度而言,它不劣于、甚至可能优于那种忽视或淡化人们本能上知道真实存在的风险的做法」。

检验这番辩护的一个具体方向是:Anthropic 在生物医药方向的投入能否在未来几个月兑现「早期的微光」(Amodei 原话)。他说:「当我们真的做出成果时,全世界都会以最大的音量听到它。」AI 公司能否兑现这些承诺,将为公众判断其可信度提供更具体的依据。至于风险警告在多大程度上影响公众态度,这场公开争论尚未给出足够证据。

来源

  • Anthropic CEO says AI backlash is 'fundamentally a crisis of trust' · TechCrunch
  • Dario Amodei 回应(1/2,监管)
  • Dario Amodei 回应(2/2,信息)
  • Gavin Baker 的公开帖
  • The Future is for Everyone · Meta
  • Nvidia, Microsoft, Meta warn against overregulating open-weight models · CNBC
  • Anthropic's investors are targeting a $2 trillion IPO · Quartz

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

    Anthropic CEO Amodei 在模型停服后,继续呼吁 AI 监管与国际合作

    2026-06-20

  • Anthropic CEO Dario Amodei 接受 Bloomberg「The Circuit」节目主持人 Emily Chang 专访

    Anthropic CEO 谈离开 OpenAI 的信任分歧,在 G7 提议美国主导 AI 联盟

    2026-06-26

  • Dario Amodei, Anthropic CEO,在公开活动上发言

    Anthropic CEO回应开放模型争议:反对全面禁令,主张发布前安全测试

    2026-07-27

  • 人像与代码投影叠加,象征 AI 研究人才与政策技术交汇
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

Anthropic联合创始人Tom Brown参与模型解禁谈判,技术经历受关注

2026-07-02

  • Anthropic 发布的 Advanced AI Framework 政策文件封面图,象征前沿 AI 公司正从被监管对象转为监管架构的主动塑造者

    Anthropic 推动更严的州级 AI 安全法,OpenAI 主张各州统一标准

    2026-07-17

  • Anthropic CEO Dario Amodei 在采访中发言,背景为植物装饰的会议室

    Anthropic 指控阿里关联人员通过逾 2880 万次交互提取 Claude 能力

    2026-06-26