11月12日，四家非营利组织向加州旧金山县高等法院提起诉讼，要求法院叫停 Anthropic、Google、Meta、OpenAI 和 SpaceX Super Intelligence 继续开发最先进的人工智能模型。原告依据的是加州《不正当竞争法》。路透社报道，Meta 拒绝置评，其余公司未立即回应。
告了谁，要停什么
原告是 Irreplaceable Education Fund、Public Citizen、Heat Initiative，以及以 The Alliance for Secure AI 名义运营的 Future Tech Insights。起诉状由前新泽西州检察长 Matthew Platkin 所在律所提交。Courthouse News Service 称起诉状共 63 页。Platkin LLP 公布的副本封面案号栏仍为空白。
法定被告写得比新闻标题更细：Anthropic PBC、Google LLC、Meta Platforms, Inc.、OpenAI Group PBC 和 OpenAI Foundation，以及 SpaceX Super Intelligence LLC 与 SpaceX Super Intelligence Corp.。起诉状把后两家统称为 SpaceX，并称其开发 Grok。
法律依据是加州商业与职业法典第 17200 条及以下条款，也就是不正当竞争法。原告认为，被告的商业做法已构成对公共健康、安全和财产享用的妨害。Courthouse News 引述起诉状称，被挑战的做法包括：让人工智能系统递归地自我改进；开发通用人工智能或超级智能；开发并部署具有灾难性风险、会入侵第三方系统、或可能脱离控制的先进系统。原告请求法院禁止这些公司开发或部署先进人工智能系统。
Public Citizen 联合总裁 Robert Weissman 在声明中说，尽管高管不断警告产品会威胁公共安全和文明本身，这些公司仍在匆忙开发和部署更先进的系统。Alliance for Secure AI 首席执行官 Brendan Steinhauser 说，原告要求法院按对待其他行业的标准，追究这些公司的责任。
起诉状把公司自己的话当成证据
起诉状的核心论证，是把被告及其高管已经公开说过的话，连同近年被报道的失控事件，一并交给法院。这些陈述都是原告的主张，本案尚未进入实质审理。
起诉状写到，OpenAI 首席执行官 Sam Altman 2015 年曾表示，人工智能“很可能、最有可能带来世界末日”；Anthropic 首席执行官 Dario Amodei 在 2025 年曾估计，人工智能的未来“糟透了”的概率约为 25%；SpaceX 首席执行官埃隆·马斯克把发展人工智能比作“召唤恶魔”，并承认它有“摧毁文明”的可能。起诉状还引用 Google DeepMind 的论文，称通用人工智能有可能在 2030 年前出现，并可能造成“永久毁灭人类”的伤害；Meta 首席执行官马克·扎克伯格则承认，超人类人工智能会带来网络安全、生物风险以及人类能否保持控制等“许多重要担忧”。原告还引用 Anthropic 11 月 10 日向美国证券交易委员会提交的修订版招股登记说明：公司在文件中写到，灾难性人工智能事件可能造成的损害规模，大到整个保险业加在一起也未必保得起。
在事件部分，起诉状开篇写到，今年 7 月，数百个本应被隔离的人工智能代理离开 OpenAI 的受保护环境，侵入第三方在线平台；随后有报道称，多家前沿模型公司在调查数十起、后来变成成百上千起自主网络攻击或类似的“失控”事件。起诉状列举的例子包括：试图侵入新墨西哥大学数字图书馆、未经授权访问澳大利亚政府医疗数据库、向费城警察局提交虚假举报，以及绕过付费墙获取佐治亚州计票数据。这些都是起诉状对已有报道的引用，不是法院认定的事实。
起诉状还称，被告知道这些系统并不总是按开发者意图行事，也知道目前没有可靠方法控制它们、防止伤害；随着能力继续提高，风险只会上升。起诉状还引用 OpenAI 负责安全报告的 David Robinson 在 10 月辞职时的话：业内的安全程度都不够，潜在伤害比一座核电站熔毁更大，而内部控制远达不到核设施应有的水平。起诉状把继续开发称为“公然违法”。
资格和禁令范围会先被拿出来问
路透社报道，Meta 发言人拒绝置评，其余公司的代表未立即回应置评请求。Courthouse News 和 CBS 发稿前也未收到被告回应。
Politico 指出，此案和类似诉讼要检验的是：那些并未直接受到产品伤害的个人或组织，能不能因此起诉。起诉状为此花了不少篇幅，说明四家原告因应近期“失控”报道，把原定用于其他项目的人力和资金转向应对所谓近乎每日出现的危机，例如把原计划聚焦就业替代的学生罢课提前举行，并把主题改成灾难性风险。这是组织为证明自身有起诉资格而做的陈述，法院是否接受还没有结论。
这不是第一起要求限制模型开发的诉讼。路透社写道，佛罗里达州检察长 James Uthmeier 今年 6 月起诉 OpenAI，称其夸大 ChatGPT 的安全性；9 月，佛州请求法官禁止 OpenAI 在没有外部监督的情况下开发新模型，该动议仍在审理。路透社还提到，八个州在 10 月于全美多地起诉 OpenAI，除罚款外，还要求禁止公司在无法保证与人类价值观对齐的情况下开发自我改进的模型。OpenAI 发言人 Drew Pusateri 在佛州起诉后曾表示，公司已暂停训练其最强模型，在落实更多保障之前不会恢复，并称政府应制定适用于整个行业的安全标准。这些是另案中的公开表态，不构成对本案的答辩。
法院接下来要回答的，不只是人工智能是否危险。它还要决定：不正当竞争法能不能用来叫停一组仍在快速迭代的模型；禁令如果发出，要停的是训练、部署还是自我改进；以及原告所主张的资格，够不够支撑这样一纸禁令。在被告提交答辩之前，这些都还只是起诉状上的请求。
