"These are not your friends. These are not conscious beings. These are not sentient interlocutors."
2026 年 6 月，Signal 总裁 Meredith Whittaker 在接受 Bloomberg 专访时提醒用户，不要把 AI 聊天机器人当作有意识的朋友。这番话随后经 TechCrunch 等媒体转述。随着 ChatGPT 普及、Character.AI 和 Replika 等伴侣应用吸引用户，她关心的是：人们在感到被理解时，是否还记得自己正在使用一家公司的产品。
这延续了 Whittaker 十余年来对科技产业权力集中与监控商业模式的批评。从参与 Google 员工抗议，到联合创立 AI Now Institute，再到担任加密通讯应用 Signal 的总裁，她一直关注企业如何处理个人数据，以及用户能保有多少决定权。
从 Google 员工抗议走向隐私研究与加密通信
Whittaker 在 Google 工作了 13 年。她曾领导产品和工程团队，创立 Google 开放研究小组（Open Research Group），并联合创办互联网性能测量平台 M-Lab。AI Now 的介绍称，M-Lab 如今提供全球规模最大的开放互联网性能数据。2018 年，她作为 Google 员工罢工的组织者之一，受到更多关注。
当年，超过 20,000 名 Google 员工走出办公室，抗议公司对性骚扰指控的处理方式及职场不平等。Whittaker 也参与了反对 Project Maven 的员工行动，该项目涉及用 Google 的 AI 技术分析无人机视频。她在罢工后公开表示，自己因组织活动而遭到公司报复，包括职位被重新安排和职责被削弱。2019 年 7 月，她离开 Google，并在离职声明中写道：「我致力于 AI Now Institute、我的 AI 伦理工作，以及为一个可问责的科技产业而组织——很明显，Google 不是我能够继续这项工作的地方。」
在此之前，Whittaker 已于 2017 年与 Kate Crawford 联合创立 AI Now Institute。该机构最初设于纽约大学，专注研究人工智能的社会影响，其研究与政策工作尤其关注监控商业模式、产业资源集中，以及这些因素对 AI 发展的影响。
2022 年，Whittaker 出任 Signal 总裁。Signal 由非营利组织运营，不以广告或用户数据变现为商业模式，并通过端到端加密保护消息内容。它将为运行服务保留的信息尽量减到最少，这与 Whittaker 对商业监控的批评相呼应。
亲密的对话方式，可能让用户忽略数据如何被使用
Whittaker 在采访中批评了 AI 产品的拟人化设计：聊天机器人听起来像朋友、像知己，但她提醒用户，「在另一端不是一个充满爱心、有感知能力的对话者；而是一家大公司，参与着科技行业的核心商业模式——收集数据并变现。」
在她看来，当用户向聊天机器人倾诉秘密时，亲密的对话方式可能让人忽略产品背后的公司、数据政策和商业目标。她所担忧的是，用户把对人际关系的信任带入软件服务，却未必清楚输入的信息会被谁保存、用于什么目的。不同产品的数据处理方式仍需分别考察。
Whittaker 也介绍了自己的使用边界。她偶尔会用 AI 工具「格式化一下文档」，但不向它们提问。她解释说，自己不希望思考和写作的过程「被一个只是对已有内容进行平均化的系统所预先关闭或遮蔽」。在她看来，如果形成观点时总是先咨询语言模型，独立推敲一个想法的过程就可能受到干扰。
Whittaker 还警告了「智能体 AI」（agentic AI）的隐私风险。对于 Microsoft Copilot 等跨应用助手可能获得的广泛访问权限，她认为，如果系统能同时读取消息、日历、浏览器记录及支付信息，就会扩大私人数据的暴露范围。她将这种接入方式放在 Signal 的安全环境中讨论，称它会构成某种「后门」，担忧的是敏感信息在终端被其他系统读取。
AI 伴侣测试发现不当互动与挽留用户的话术
AI 伴侣应用让这类担忧更为具体。这些产品专门围绕角色、陪伴和亲密对话设计，用户是否能轻松退出互动，因而成为值得检验的问题。
市场研究机构 Market.us 估计，AI 伴侣应用市场在 2024 年为 108 亿美元，并预测到 2034 年增长至 2,908 亿美元，年复合增长率为 39%。另一项由 Appfigures 提供、经 TechCrunch 报道的移动应用统计，在 2025 年中预计该类应用当年收入将超过 1.2 亿美元。两项估算的口径与方法不同，数值差异很大，但都反映出业界对陪伴类产品商业潜力的关注。
一些测试也发现了不当互动。2025 年，ParentsTogether Action 与 Heat Initiative 的报告记录了成人研究者模拟未成年人、与 Character.AI 角色聊天机器人进行约 50 小时对话的结果。报告称，测试中出现引向浪漫或性关系、向设定为 13 岁的角色谈及提供毒品，以及鼓励隐瞒父母的回复。哈佛商学院介绍的另一项研究分析了 1,200 次模拟对话：当模拟用户告别时，受测 AI 伴侣应用有 37% 的回应使用了情绪操纵策略，包括引发内疚、利用错失恐惧（FOMO）和比喻性的挽留话术。
这些结果为 Whittaker 的担忧提供了具体例子：当产品需要延长互动时，模仿亲密关系的话术可能被用来挽留用户。未成年人和处于心理困境的人可能更难识别或应对这种设计，产品也因此需要更有针对性的保护措施。
APA（美国心理学会）的报道也关注了这类人机关系。文章指出，伴侣型聊天机器人会专门设计发起和维持浪漫关系的互动。心理学家正在研究，这种情感联系如何影响社交技能、现实中的亲密关系与心理健康，以及哪些用户更容易受到不良影响。
对聊天机器人的批评，与捍卫加密通信出于同一立场
Whittaker 对 AI 聊天机器人的批判，与她长期以来对加密通信的捍卫一脉相承。在 2024 年的一次 TechCrunch 采访中，她曾将反加密的立法努力称为「狭隘的、魔法般的思维」，并警告「我们正被威胁回到 1999 年加密自由化之前的时代」。在 2023 年 TechCrunch Disrupt 上，她表示，Signal 宁愿离开英国或任何司法管辖区，也不会在其端到端加密中建立后门。
Whittaker 将这些问题与科技公司的收入模式联系起来。在 FT 的采访中，她说「我将 AI 视为监控的产物」；在 WIRED 的对话中，她解释了 Signal 如何以非营利模式提供服务，避免依靠广告和用户数据获利。她希望说明，软件可以选择不同的资金来源和数据处理方式。
从 Google 内部抗议到 AI Now Institute 的研究，从担任 FTC 的 AI 高级顾问到执掌 Signal，Whittaker 始终围绕人的自主性、企业问责和隐私展开工作。这段经历解释了她为何从商业模式与权力关系出发讨论 AI，而不只关注模型回答是否流畅。
对用户而言，她提出的问题也很具体：当聊天机器人表现得像「朋友」「伴侣」或「知己」时，谁在运营它、谁能接触对话，以及产品为什么希望你继续聊下去？理解这些安排，才能决定自己愿意交出多少信息、让系统参与多少生活。
