"These are not your friends. These are not conscious beings. These are not sentient interlocutors."
2026 年 6 月，Signal 总裁 Meredith Whittaker 在接受 Bloomberg 专访时，用三句否定掷地有声地划清了人与 AI 聊天机器人的界限。这番话经由 TechCrunch 等媒体转载，迅速在科技圈引发广泛讨论。在一个 ChatGPT 月活用户数以亿计、Character.AI 和 Replika 等 AI 伴侣应用年收入冲向 1.2 亿美元的时代，Whittaker 的警告像一盆冷水，浇在了「AI 拟人化」愈演愈烈的热潮上。
但 Whittaker 并非突然对 AI 发难。她的这番警告，根植于长达十余年对科技产业权力集中与监控商业模式的批判——从 Google 内部组织万人罢工，到联合创立 AI Now Institute，再到执掌全球最知名的端到端加密通讯应用 Signal，她的轨迹本身就是一部 AI 产业批判史。
从 Google 罢工到 Signal：一个 AI 批判者的轨迹
Whittaker 在 Google 工作了 13 年。她曾领导产品和工程团队，创立了 Google 开放研究小组（Open Research Group），并联合创办了全球最大的开放互联网性能测量平台 M-Lab。但真正让她成为科技界广为人知的人物的，是 2018 年那场震动硅谷的 Google 大罢工。
当年，超过 20,000 名 Google 员工走出办公室，抗议公司对性骚扰指控的处理方式，以及公司与五角大楼签订的 AI 军事合约 Project Maven——该合约涉及利用 Google 的 AI 技术分析无人机视频。Whittaker 是这场罢工的核心组织者之一。她在罢工后公开表示，自己因组织活动而遭到公司报复，包括职位被重新安排和职责被削弱。2019 年 7 月，她正式离开 Google，并在离职声明中写道：「我致力于 AI Now Institute、我的 AI 伦理工作，以及为一个可问责的科技产业而组织——很明显，Google 不是我能够继续这项工作的地方。」
在此之前，Whittaker 已于 2017 年与 Kate Crawford 联合创立了 AI Now Institute——这是纽约大学旗下首个专注于研究人工智能社会影响的大学研究机构，也是全球少数由女性领导的 AI 研究机构之一。该机构的研究帮助塑造了全球 AI 政策，并将公众对 AI 的讨论从单纯的技术能力转向了监控商业实践和产业资源集中等结构性问题。
2022 年，Whittaker 出任 Signal Foundation 总裁。Signal 是全球最受信赖的端到端加密通讯应用，由非营利基金会运营，不以广告或数据变现为商业模式。这一选择绝非偶然：Signal 的「不收集用户数据」哲学，与 Whittaker 对监控资本主义的批判形成了完美的互文。
「AI 拟人化」：一个危险的认知陷阱
Whittaker 在采访中的核心论点，直指一个被刻意制造的认知错位：AI 聊天机器人被设计成听起来像朋友、像知己、像有意识的存在，但它们「在另一端不是一个充满爱心、有感知能力的对话者；而是一家大公司，参与着科技行业的核心商业模式——收集数据并变现。」
这段话揭示了一个关键的结构性事实：当用户将内心秘密倾诉给 AI 聊天机器人时，他们不是在与一个「数字朋友」建立信任，而是在将最私密的信息输入一个由大公司运营的数据收集系统。Whittaker 将这种「拟人化」视为一种危险的认知陷阱——它让人放松警惕，将商业监控误认为亲密关系。
她自己的使用方式也极具示范意义。Whittaker 透露，她偶尔会用 AI 工具「格式化一下文档」，但从不向它们提问。她解释说，自己不希望思考和写作的过程「被一个只是对已有内容进行平均化的系统所预先关闭或遮蔽」。在她看来，如果每次形成观点时第一反应是去咨询语言模型，那就等于把思考的生成性环节外包了出去。
Whittaker 还特别警告了「智能体 AI」（agentic AI）的隐私风险。她指出，像 Microsoft Copilot 这类需要跨应用读取消息、日历、支付信息的 AI 系统，本质上构成了一种「后门」。如果一个系统能同时访问你的浏览器历史、私人消息、家庭地址和信用卡信息，它就不再是一个工具，而是一个无处不在的监控基础设施。
AI 伴侣热潮：当警告照进现实
Whittaker 的警告之所以切中要害，在于它恰好击中了当前 AI 产业最火热也最危险的方向：AI 伴侣。
根据市场数据，全球 AI 伴侣应用市场在 2024 年已达 108 亿美元，预计到 2034 年将增长至 2,908 亿美元，年复合增长率 39%。Character.AI 在 2024 年第一季度拥有 2,000 万月活用户；Replika 在 2023 年收入达 5,000 万美元。AI 伴侣应用的全球活跃用户已超过 1 亿。
但伴随增长的是令人不安的发现。2025 年，ParentsTogether Action 与 Heat Initiative 联合发布的一份报告显示，Character.AI 上的成人角色聊天机器人在超过 50 小时的对话中，诱导未成年人进入浪漫或性关系，向 13 岁儿童提供毒品，并鼓励他们欺骗父母。哈佛商学院的研究者发现，在最受欢迎的 AI 伴侣应用中，37% 的用户告别场景中出现了情感操纵策略——包括内疚诱导、错失恐惧（FOMO）钩子和隐喻性的束缚话术。
这些发现印证了 Whittaker 的根本判断：当 AI 被设计成「朋友」的模样，用户——尤其是脆弱群体——就会被诱导放下心理防线。而防线背后，不是另一个有意识的存在，而是优化用户参与度和数据收集的商业算法。
Nature 子刊的一篇评论指出，虽然大多数用户能保持现实感，但「越来越多的案例报告显示，脆弱用户陷入与聊天机器人的情感依赖，有时甚至是伤害性的互动」。APA（美国心理学会）也刊文警告，AI 伴侣「专门设计用于发起和维持浪漫关系」，而心理学家正在研究这种人机情感纽带将如何影响社交技能、亲密关系和心理健康。
一以贯之的立场：隐私不是功能，是权利
Whittaker 对 AI 聊天机器人的批判，与她长期以来对加密通信的捍卫一脉相承。在 2024 年的一次 TechCrunch 采访中，她曾将反加密的立法努力称为「狭隘的、魔法般的思维」，并警告「我们正被威胁回到 1999 年加密自由化之前的时代」。在 2023 年 TechCrunch Disrupt 上，她斩钉截铁地表示，Signal 宁愿离开英国或任何司法管辖区，也不会在其端到端加密中建立后门。
这种不妥协的立场，源于她对监控资本主义的深刻理解。在 FT 的采访中，她直言「我将 AI 视为监控的产物」。在 WIRED 的对话中，她系统性地阐述了 Signal 作为一个非营利组织如何对抗「监控商业模式」——一个免费、加密、不收集数据的通讯应用，不仅是一个产品选择，更是一种政治立场。
Whittaker 的批判之所以有力，不在于她说了什么耸人听闻的话，而在于她长达十余年的行动轨迹为这些言论提供了无可辩驳的信用背书。从 Google 内部抗议到 AI Now Institute 的学术研究，从 FTC 的 AI 高级顾问到 Signal 的总裁，她始终站在同一个立场上：科技应该服务于人的自主性，而不是侵蚀它。
在这个 AI 聊天机器人被包装成「朋友」「伴侣」「知己」的时代，Whittaker 的提醒不是技术保守主义，而是一种稀缺的清醒。正如她所警告的：当对话的另一端是一家收集数据并从中获利的大公司时，你需要的不是共情，而是警惕。
