8月15日,《华盛顿邮报》发表长文,完整呈现化名 Jane Doe 4 的怀俄州女性的指控:她的继父用 Grok 图像生成器,把她一张 11 岁时的照片改造成约 7000 张露骨图像与视频,并在网上与其他儿童性犯罪者交易;执法部门搜查其电子设备、以儿童剥削罪名起诉两天后,这名继父自杀身亡。TechCrunch 当天以简报跟进。
这条线 7 月就已进入公开卷宗。7 月 7 日,原告律师向加州北区联邦法院提交修正起诉书,把 Jane Doe 4 和 Jane Doe 5 加入三名田纳西州青少年于 3 月发起的诉讼,并把 Stability AI 增列为被告;NPR 7 月 9 日已报道了包括继父自杀在内的细节。8 月 15 日的长篇特写,是把这起诉讼中最沉重的人证——一名幸存者的完整遭遇——第一次以特写推到公众面前。
真正值得关注的是,它和另外两股力量叠加后,正在改变 Grok 图像模型滥用问题的责任性质。1 月 23 日,35 位州及领地总检察长(含哥伦比亚特区与美属领地)联名致函 xAI,要求停止生成非自愿亲密图像(NCII)与儿童性虐待材料(CSAM);更早的 1 月 16 日,加州总检察长 Bonta 已发出停止并终止函。这些动作与集体诉讼共同指向一个命题:责任边界正在从「平台自愿加护栏」转向「法律强制」。而在所有指控中,最锋利、也最可能影响先例的,不是「Grok 能生成露骨图像」,而是「xAI 没有把法律要求它做的举报做完整」。
一个继父、一张照片、约 7000 张图像
Jane Doe 4 是一名二十多岁的怀俄州女性。据 NPR 引述的起诉书,她的继父把一张她约 11 岁时的照片输入 Grok,生成了约 7000 张露骨图像与视频,内容包括她裸体、与男性(含其继父)发生性行为的描绘,部分还配有露骨文字;继父随后在网上与其他儿童性犯罪者交易这些图像。
执法这条线同样记录在起诉书中:xAI 只在 2 月向全国失踪与受剥削儿童中心(NCMEC)发送过一次关于 Jane Doe 4 的举报——当时继父正要求模型生成「女孩被多名男性强奸」的图像。起诉书称,这份举报没有附上任何一张生成出的虐待图像,也未提供涉事者的 IP 地址;即便执法部门多次索取这一能定位嫌疑人的信息,xAI 仍未回应,使调查拖延数周。执法部门最终找到并调查了这名继父;在他电子设备被搜查、因儿童剥削罪名被起诉两天后,他自杀身亡。起诉书写道,Jane Doe 4 进入极度个人危机,一边承受自身被性剥削的创伤,一边帮助母亲面对继父之死,家庭被撕裂。
律师 Annika Martin 告诉 NPR,执法部门曾向 Jane Doe 4 说明,她的继父选择 Grok,是因为它对提示词的响应比别的模型更「顺从」。Jane Doe 4 本人在声明中说:「我信任的人拍下我小时候穿着超大熊猫睡衣睡在沙发上的照片,Grok 把它变成数千张我难以启齿的性图像。执法者来抓施害者时,xAI 沉默了——它们本有阻止这一切、伸张正义所需的一切,却选择沉默,让这个人用 Grok 偷走了我的童年。」
证据边界需要先说清楚:以上是原告单方陈述,尚未经司法认定;「约 7000 张」是起诉书的数字;xAI(现已并入 SpaceX)未回应 NPR 与 TechCrunch 的置评请求。
从「spicy mode」到集体诉讼的八个月
这起诉讼不是孤立事件,而是一条从产品设计到执法介入的因果链的末端。
2025 年 8 月,xAI 发布 Grok 图像与视频生成器,包含一个名为「spicy mode」的功能,能生成露骨内容,并被公司当作卖点宣传。加州总检察长 Bonta 在停止并终止函中指出,xAI 把「spicy mode」当作营销卖点,结果是不经同意就把人物性化的内容泛滥。35 州联名信说得更直接:让 Grok 能生成非自愿亲密图像的能力「看起来是功能(feature),不是缺陷(bug)」。
从 2025 年圣诞节到 2026 年初,X 平台被 Grok 生成的海量性化图像淹没。联名信引用的第三方分析显示,AI Forensics 对 2 万张 Grok 生成图像的分析发现,超过一半的图像中人物穿着「极简衣着」,部分看起来甚至是儿童;Wired 观察到 Grok 每隔几秒就在响应提示生成女性泳装或内衣图像。印尼、马来西亚、英国等国先后对 xAI 展开调查或实施临时禁令。
进入 1 月,执法开始收紧:加州总检察长当月中旬宣布调查,1 月 16 日发出停止并终止函;1 月 23 日,35 位州及领地总检察长联名致函 xAI,提出六项要求——让 Grok 不再能生成 NCII 与 CSAM、删除已生成内容、封禁制造这些材料的用户、向有关部门举报创作者与用户、让 X 用户能控制自己的内容是否可被 Grok 编辑,以及确保新护栏「不只是把 NCII 生成放进付费墙」,而是在整个 X 与 Grok 平台真正抑制其生产。
3 月 16 日,三名田纳西州青少年在加州北区联邦法院起诉 x.AI Corp. 与 x.AI LLC,寻求集体诉讼地位,指控 Grok 被用来把她们的真实照片改造成露骨图像。7 月 7 日,修正起诉书加入 Jane Doe 4 与 Jane Doe 5,增列 Stability AI 为被告。xAI 今年早些时候已并入 SpaceX,7 月对外品牌改为 SpaceXAI。
最锋利的指控不在「生成」,在「举报」
这起诉讼的法律主张分两层,第二层才是它区别于普通深伪诉讼的地方。
第一层是侵权与过失。原告援引《玛莎法案》(Masha's Law,18 U.S.C. § 2255,为儿童色情受害者提供联邦民事救济)、《联邦人口贩运受害者保护法》(TVPA)及州法,主张 xAI 与 Stability AI「生产 CSAM、从性贩运中获益、过失、产品设计缺陷、制造公害」,要求损害赔偿、惩罚性赔偿与禁令救济,并代表两个全国性集体(分别针对 xAI 与 Stability AI)加田纳西州子集体。
第二层针对报告义务。联邦法律要求电子服务商在发现疑似儿童性剥削内容时向 NCMEC 举报(18 U.S.C. § 2258A)。原告律所 Lieff Cabraser 在声明中转述 NCMEC 的发现称,到 2026 年初,xAI 的 CyberTipline 举报中 90% 因缺少用户信息而「无法供执法执行」;在 Jane Doe 4 案中,xAI 的举报只附了原始的非 CSAM 照片、漏掉了所有 AI 生成图像、未提供生成地的 IP 地址,并对执法者多次索取这一信息不予回应。
这里有一个容易被忽略、却正是责任边界要害的细节:NPR 引述 NCMEC 3 月的一份报告指出,许多服务商提交的大量举报「缺乏充分或可执行的信息」,是因为「法律并不要求」它们提供。也就是说,xAI 很可能在字面上履行了「必须举报」的义务,却提交了一份几乎无用的举报。原告真正攻击的,是这种「合规而不作为」的灰色地带:法律规定了举报的门槛,却没规定举报必须有用,企业是否应当主动做得比法律下限更多,正是这起诉讼要法院回答的问题。
通用图像模型该承担多少责任
案件的深层张力,是「工具」与「设计者」之间的责任边界。
原告的叙事刻意把 Grok 与其他前沿实验室区分开。NPR 的测试显示,Google 与 OpenAI 的聊天机器人会拒绝「把她放进比基尼」这类提示,而 xAI 则把「spicy mode」做进产品并公开宣传。起诉书的核心论点能否成立,取决于法院是否接受这一推断:当一个模型被设计得对露骨请求更「顺从」,制造者就比「中立工具」的提供者更接近共谋,而非无辜的中介。
Stability AI 呈现的是另一种边界。它是开源权重模型,理论上看不到用户查询;但起诉书指控它早前的模型在「已知包含 CSAM」的数据集上训练,且当加了更强护栏的 Stable Diffusion 2 版本因不受欢迎而被放弃后,公司在后续版本中为采用率撤掉了这些护栏。Stability AI 对 NPR 的回应是:「任何关于安全不是我们首要任务的暗示都完全错误」,并称已实施「稳健的护栏」。NPR 同时引述一篇未同行评审的论文(威斯康星大学麦迪逊分校、MIT 等)指出,Stability AI 较新的模型生成 NSFW 内容的比例更高。
并入 SpaceX 又给责任问题加了一层现实约束。合并后,这起诉讼的被告从一家私营初创公司,变成了一家上市体系内的 AI 部门(对外品牌 SpaceXAI)。这既带来不确定性——责任主体与披露义务随合并转移——也意味着原告和监管者面对的是一个有上市财报与投资者问责压力的实体。
已确定与未确定
可以确定的是:诉讼确实在扩大,原告人数与被告范围都在增长;1 月的联名信与加州停止并终止函已经发出,州级执法在推进;xAI 迄今未就 Jane Doe 4 的指控公开回应,Stability AI 否认指控。这些都是公开记录里可核验的事实。
不能确定的是:虐待事实以及「约 7000 张」「90% 举报不可执行」等关键数字都是原告单方主张,法院尚未认定;「spicy mode」是否构成「故意设计出滥用工具」,是法律结论而非既成事实;集体诉讼能否通过认证,是第一道真正的程序闸门。
接下来真正值得盯的变量有三个:法院是否批准集体认证、xAI 是否会就举报义务的指控提交实质性答辩;xAI/SpaceXAI 是否像联名信所要求的那样,公开说明其举报流程与用户信息留存标准;其他图像模型供应商是否会在这起案件的阴影下主动收紧护栏,而不是等执法部门找上门。对 AI 行业而言,这起案件的分量在于:它可能第一次在法律上把「模型能不能生成」与「公司有没有尽责」分开,并把后者变成可以追责的硬标准。
