美国国会收到了一份把“踩刹车”写成刑事禁令的 AI 法案。9 月 23 日,参议员 Bernie Sanders 提出 S.5493;次日,众议员 Greg Casar 提出的配套版本 H.R.10538 进入众议院。两份文本要永久禁止人工超级智能,并在一个新的内阁级人工智能部完成组建、写出安全规则之前,暂停最先进系统的继续训练和发布。
最容易误读的地方也在这里:美国没有禁止超级智能,先进模型开发也没有开始暂停。S.5493 只完成了提出、两次宣读和转交参议院商务委员会;众议院版本被转交监督与政府改革委员会。美联社判断,它在共和党控制、连温和得多的 AI 监管都难以形成共识的国会中通过希望渺茫。
这份提案真正值得拆解的,不是“永久禁止”四个字,而是它试图把模型能力变成许可边界:算力决定谁先被纳管,能力测试决定谁必须被断网、修改甚至销毁,最终判断权则交给一个尚不存在的部门。
10^25 次训练运算划出第一道线,能力测试又划出更宽的一道线
法案把训练使用不少于 10^25 次整数或浮点运算的系统定义为“先进人工智能系统”。这个门槛不是永久固定值:人工智能部长须每年按训练效率和技术进步调整,使其约束范围维持与最初门槛相当。
一旦进入这一档,开发者不能只做一次发布前测试。法案要求企业在开发前报告计划,在预训练、训练中、训练后和部署后接受监测与评估,审计组织安全实践,并在公开发布前取得部门批准。开发或分发先进模型还要先获得特许;申请者须允许监管者查看系统、流程、员工和实体基础设施。
第二道线不看训练算力。法案把能够显著加速 AI 研发、未经授权进入计算机或物理设施、抵抗关停、辅助核生化武器设计、自行修改功能,或通过欺骗逃避人类监督,列为“超级智能前兆特征”。任何系统只要出现其中一项,就可能落入禁止开发、持有、资助、进口和转让的范围;足以重建系统能力的组件也被纳入。文本没有为开源权重另设豁免。
这使法案的实际边界比 10^25 次运算门槛更宽。算力门槛筛出必须持证、接受全生命周期监管的开发者;前兆特征则让监管者能够处置未必达到该训练规模、却被认定具有特定危险能力的系统。
所谓“临时暂停”没有截止日期,要等新部门自行宣布条件满足
如果法案生效,先进系统不得继续训练、修改或微调,例外只限于移除前兆特征或让系统失效;尚未发布的先进系统也不得部署。暂停何时结束,不由日历决定,而由人工智能部长确认部门已经满员,并已发布开发计划申报、持续评估、组织审计和部署前批准等规则。
法案没有规定部门必须在多少天内完成组建和立规。部长要由总统提名、参议院确认,技术咨询委员会成员又由部长选择。因此,文本称为“临时”的暂停,持续时间可能取决于人事任命、预算、规则制定和诉讼,而不是模型公司能够预先计算的固定窗口。
现有系统的待遇也不是一句“暂停新模型”可以概括。第 8 条对部署的临时限制明确指向“尚未发布”的先进系统;第 9 条对超级智能及前兆特征的禁令则覆盖开发、内部或外部部署、持有和转让。法案还要求任何人发现这类系统后 24 小时内报告。监管部门须立即将带有前兆特征的系统与互联网隔离;若 30 天内不能确认相关能力已被移除,就让系统失效。被认定为超级智能的系统则要立即失效。
最高 20 年刑期针对决策者和独立行为人,企业还可能失去资产
提案的刑责并非笼统地落在所有工程师身上。文本规定,持证企业中的决策者或不隶属持证企业的“独立行为人”,若鲁莽违反暂停、禁止或特许条款及其规则,可被罚款并处最高 20 年监禁。没有决策权的员工若鲁莽违规,处罚是十年内不得在 AI 行业就业,举报人可申请豁免。
企业层面的后果更直接:部门发现违规后必须撤销特许;经联邦巡回上诉法院复核仍维持认定的,相关知识产权和资产可被联邦政府没收,用于彻底销毁与违规有关的系统和硬件。Sanders 的新闻稿把它称为“企业死刑”,但正式文本写的是特许撤销、司法复核与资产没收,而不是一个自动发生的公司解散程序。
这些处罚最终能否执行,取决于几个尚未解决的判断:什么叫“容易修改”成超级智能,怎样证明系统具备欺骗或自我增强能力,谁对模型行为拥有政策决定权,以及“鲁莽”在具体开发流程中如何认定。法案列出了能力类别,却把测试方法、危险阈值和批准标准留给新部门制定。
从最强硬口号走到法律,先要跨过委员会和总统两道门
Sanders 和 Casar 选择的是美国联邦 AI 监管中最强硬的一端。Roll Call 报道,支持更强 AI 安全措施的 Alliance for Secure AI 也没有背书禁令,只称应采取更审慎的方案;同一民主党阵营内,有人支持暂停,却没有跟进永久禁止超级智能。国内暂停是否会把研发优势让给中国,也已成为反对者的核心问题。
法案试图用国际协议、盟友协调和算力基础设施出口管制回应这项质疑,但它不能凭美国国内法阻止其他国家训练模型。更现实的程序障碍是:截至 9 月 24 日,两院版本都只在委员会阶段,尚无委员会通过、全院表决或总统签署。
因此,这份法案当前改变的不是模型公司的法律义务,而是监管争论的起点。它把一套完整的强制路线摆上国会文本:先按算力纳管,再按能力裁决,违规时可以断网、撤销特许和追究刑责。若它继续推进,真正决定影响范围的不会是“超级智能”这个口号,而是国会是否愿意建立新部门,以及新部门能否把“危险能力”写成可重复测试、可在法院中辩护的标准。

