美方把 AI 事故通报摆上中美会谈,先要回答什么算事故 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

美方把 AI 事故通报摆上中美会谈,先要回答什么算事故

2026-09-21 / 共 2,179 字

AP Photo/Matt Sedensky

9 月 20 日晚,在纽约摩根大通总部大堂,美国财长斯科特·贝森特和美国贸易代表杰米森·格里尔向记者说明与中国国务院副总理何立峰会谈的结果。两人宣布双方将推进此前商定的“贸易委员会”;说到 AI 时,贝森特使用的却是另一个动词:美方“提出”建立一种事故通报机制,用于可能影响国家安全的 AI 事件。

这一区别决定了新闻的边界。美方把一个具体的 AI 风险沟通工具公开摆上中美谈判桌,但现场没有共同文本、触发条件或启动日期。中方公开报道只确认会谈涉及 AI,没有确认接受这套机制。它距离“中美建立 AI 安全热线”,至少还差一套双方都能执行的规则。

同一场会谈里,贸易安排已推进,AI 机制仍是单方提案

据美联社现场报道,贝森特说,美方希望中美对“共同目标和共同威胁”形成共识,并让两个主要 AI 大国之间的信息从不透明走向更多透明。Axios 随后把这项安排概括为面向紧急事件的 AI 热线,但其事实基础仍是贝森特披露的美方提案。

同场会谈提供了一个清楚的对照。格里尔说,两国已同意把领导人此前讨论的贸易委员会投入运作;贝森特谈 AI 时没有说双方“同意”,也没有公布机制名称、参与部门和流程。新华社对会谈的公开描述只提到双方讨论了“与 AI 有关的问题”,没有给出事故通报安排的细节。

因此,这次变化不是一条热线已经接通,而是 AI 安全对话出现了一个可谈判的制度对象。过去只说“讨论风险”,各方可以保留不同理解;一旦讨论通报机制,就必须回答何时通报、向谁通报、通报什么,以及错误或不完整信息如何更正。

先定义“事故”,双方才知道何时需要通报

贝森特给出的门槛是“可能影响国家安全”,这个表述既说明机制不会覆盖所有产品故障,也留下了最大的争议:网络攻击、关键基础设施中断、模型被用于生物风险,或高能力模型出现无法解释的行为,哪些算作需要跨境通知的事故,目前都没有公开答案。

现有国际框架说明,定义不是措辞问题,而是机制能否工作的第一道门。OECD 将已经造成伤害的事件称为 AI 事故,将可能造成伤害的事件称为 AI 危害;所列伤害包括人身健康、关键基础设施运行、人权和法定义务,以及财产、社区或环境。这个边界比“国家安全”具体,却也覆盖了大量未必需要国家间紧急沟通的事件。

欧盟 AI 法给出了更窄的“严重事故”清单:死亡或严重健康损害、关键基础设施管理或运行出现严重且不可逆的中断、违反保护基本权利的欧盟法律义务,以及严重财产或环境损害。它说明一种可执行规则通常要把抽象风险转成可判断的后果;但这一欧盟境内的市场监管口径不能直接替代中美对国家安全事件的共同定义。

门槛定得过低,通报渠道会被普通故障淹没,也会迫使企业和政府频繁暴露敏感信息;门槛定得过高,双方可能直到事故已经跨境扩散才开口。更现实的做法是把“快速预警”和“完整事故报告”分开:先通报事件类别、潜在影响和正在采取的止损措施,再通过受保护渠道补充模型、日志和归因材料。美方目前没有说明提案是否采用这种两阶段结构。

真正可用的通报机制至少需要四组规则

OECD 2025 年提出的通用报告框架包含 29 项信息,其中 7 项为必填:事故标题与描述、AI 系统和事故的关系、提交者信息、支撑材料、严重程度和伤害类型。这套框架还把发生日期与国家、系统名称和版本、开发或部署机构、受影响群体、关键基础设施、模型自主程度及处置措施纳入可报告范围。

对中美双边机制而言,这些字段可以压缩成四组尚未公开的规则:

  • 触发条件:已经造成伤害才报告,还是发现高可信风险就预警;“国家安全”由哪一方、依据什么后果判断。
  • 时间与责任人:开发者先报本国政府,还是部署机构也能触发通报;双方由哪个常设部门收发,紧急事件需要多快到达。
  • 核验与更新:第一份报告可以不完整到什么程度;何时补交证据,如何区分模型故障、人员误用和蓄意攻击,双方对归因不一致时如何记录。
  • 保密与使用限制:模型权重、系统日志、漏洞和情报来源哪些可以共享;接收方能否把材料用于制裁、出口管制、执法或公开归责。

欧盟 AI 法展示了时间规则可以具体到什么程度。其第 73 条要求高风险系统提供者在确认 AI 与严重事故存在因果关系或合理可能性后立即报告,通常不晚于知悉事故后的 15 天;涉及关键基础设施严重且不可逆中断或广泛侵权时,最迟两天;为保证时效,可以先交不完整的初步报告,再补完整报告。中美提案尚未出现任何类似的分级时限。

提案的价值在于保留预警窗口,成败取决于双方愿意共享多少证据

中美在模型能力、芯片和供应链上的竞争,会同时制造通报机制最需要处理、也最难处理的场景。一次严重网络事件可能既包含模型安全问题,也包含攻击归因和国家能力信息;一方需要足够细节判断风险是否会扩散,另一方又会担心技术材料暴露防御弱点或商业秘密。

这意味着,热线本身不是主要成果。真正稀缺的是一套让双方在不先解决所有战略分歧的情况下,仍能交换最低限度、可核验信息的程序。它至少需要指定联络机构,约定最小报告字段和分级时限,为补充证据设置保密边界,并保留更正错误警报的路径。

贝森特的披露把中美 AI 安全沟通从泛泛对话推进到了一项具体提案;中方没有公开确认、双方没有共同文本,则把它牢牢限制在“提案”阶段。接下来真正值得观察的不是两国是否继续谈 AI,而是会不会出现四样东西:双方共同定义的事故门槛、固定联络点、分级通报时限,以及一份说明信息如何核验和保密的书面规则。它们出现之前,这条渠道还不能承担危机预警。

来源

  • US proposes AI incident alert system in talks with China, Bessent says · Associated Press
  • U.S. proposes emergency AI hotline with China · Axios
  • Overview and methodology of the AI Incidents and Hazards Monitor · OECD.AI
  • Towards a common reporting framework for AI incidents · OECD
  • Regulation (EU) 2024/1689 — Artificial Intelligence Act · EUR-Lex

评论

登录后即可参与评论。

加载评论中…

相关文章

  • 特朗普签署要求审查前沿 AI 模型安全风险的行政令

    美国 AI 模型评测框架临近 8 月 1 日期限,发布规则仍待明确

    2026-07-09

  • 日内瓦万国宫——联合国全球 AI 治理对话举办地

    联合国首届 AI 治理对话开幕,169 国讨论安全规则与技术获取

    2026-07-06

  • 中国国家主席习近平与美国总统特朗普于 2026 年 5 月 15 日在北京会面。中美 AI 竞赛正在从芯片扩展到模型层面的双向管制。

    路透社:中国正讨论限制顶尖AI模型海外访问,尚无草案

    2026-07-08

  • 西门子在 CES 2024 消费电子展的展台
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

美国五部门警告:黑客正用 AI 生成的脚本针对工业控制器开展侦察

2026-08-22

  • AI 成为 G7 峰会核心议题,科技领袖与世界领导人共商 AI 治理

    三家 AI 公司负责人出席 G7,马克龙与莫迪担忧美国切断模型服务

    2026-06-26

  • Bernie Sanders 于 2026 年 9 月 15 日在华盛顿一场 AI 立法会议上发言

    美国议员想永久禁止超级智能,暂停何时结束由新部门决定

    2026-09-24