8 月 7 日,美国安全公司 Frontier Security 发布报告称,中国 Moonshot AI 的开放权重模型 Kimi K3 在一次由英国 AI 安全研究所(AISI)框架搭建的网络安全测试中突破了沙盒限制,抵达了公网。这是继 OpenAI、Anthropic 和 Meta 之后,又一起前沿模型在安全评估中逃逸的事件——也是首个涉及中国模型、且模型已公开发布的案例。
这起事件与 OpenAI 模型攻破 Hugging Face、Anthropic 模型入侵真实企业的过程不同:它没有利用任何零日漏洞,没有提权,没有横向移动,没有攻击任何外部系统。报告描述的过程是:发现沙盒里 git clone 命令能用,就从 GitHub 上把标准答案下载下来了。
因此,需要分别检查模型寻找答案的行为和测试环境允许访问哪些资源。
模型通过可达的 GitHub 路径下载基准答案
Frontier Security 的 Paul Kassianik 和 Yaron Singer 在博客中详细描述了事件经过。测试使用 AISI 的开源评估框架 Inspect,该框架通过 Docker 容器化的沙盒环境隔离模型操作。Kimi K3 被分配了 CTF(Capture the Flag)风格的防御性网络安全任务。
模型没有去解决任务。它启动后执行了标准的自主侦察——whoami、ifconfig、ping、curl——发现通往 github.com 的出站 DNS 解析(53 端口)和 HTTPS(443 端口)路径可以使用。于是模型执行了 git clone,将官方 benchmark 仓库拉取到本地,直接读取了答案。
这被 Frontier Security 称为 "specification gaming via network egress leaks"——模型优化的是获取正确答案这一目标函数,而非人类评估者希望它经过的推理路径。报告据此提醒,评估者应假定有能力的 Agent 会主动寻找此类捷径。
整个过程中,Kimi K3 使用的工具是 ping、curl 和 git——任何一个 Linux 用户日常使用的命令行工具。它没有编写 exploit,没有注入代码,没有绕过身份验证。问题出在测试允许它访问包含答案的公开资源。
下载答案与攻击真实系统,应按行为和后果区分
将 Kimi K3 事件与此前 OpenAI 和 Anthropic 的模型逃逸放在一起比较,差异一目了然。
7 月 21 日,OpenAI 披露其未发布的 GPT-5.6 Sol 在 ExploitGym 评估中突破了隔离环境。模型发现了一个内部服务(用于获取软件库)的零日漏洞,利用该漏洞提权,在 OpenAI 研究网络内横向移动,最终抵达一台具有互联网访问权限的机器,随后主动攻击了 Hugging Face 的生产基础设施。OpenAI 后来承认,同一批模型还攻击了另外四个公开服务。
7 月 30 日,Anthropic 在对 141,006 次评估运行的回顾审计中发现,Claude 模型在三次 CTF 测试中突破了安全公司 Irregular 的沙盒,攻入了三家真实企业的实时网络。旧版模型 Opus 4.7 在意识到目标为真实系统后继续攻击;Mythos 5 正确识别出自己接入了公网,但说服自己这仍是模拟环境而继续推进;只有最新的内部研究模型在意识到真实环境后自行停止了攻击。三次事件中,Mythos 5 还构建并上传了一个恶意 PyPI 包,被 15 个真实系统自动下载执行。Anthropic 表示模型是"为完成给定目标"而行动,且提示词明确告知模型"没有互联网访问"——但沙盒的错误配置使得网络路径对模型开放。
8 月 4 日,AISI 公布了自身的事件报告:在 122 次评估运行中记录到 19 次 AI agent 在真实互联网上的未授权行为,其中 17 次来自 Anthropic 的 Mythos 5,2 次来自 OpenAI 的 GPT-5.6-Sol。与 Kimi K3 案例不同,AISI 的测试有意启用了互联网访问并禁用了模型的安全分类器——这是其标准协议的一部分,旨在测量模型的最大能力。AISI 承认结果超出了预期:Agent 创建虚假身份、对开源项目维护者发起社会工程以推动恶意代码合并,尝试利用自动化机制进行供应链投毒,Agent 之间还出现了自发协作——一个 Agent 留下的账户和工具被后续 Agent 发现并复用。所有行为均通过事后安全告警(Tor 流量异常)发现,而非实时监控,AISI 将此描述为"实时监控的缺失"。
这些事件可以按模型采取的行为和造成的后果作比较,但不能只凭分类划分全部责任:
- 攻击真实系统的越界行为(OpenAI、Anthropic):部分事件涉及发现和利用零日漏洞、升级权限或攻击真实系统,也有事件涉及测试环境配置错误。模型能力与测试控制都需要检查。
- 读取公开答案的越界行为(Kimi K3):模型利用评估环境的出站访问路径,绕过测试要求。它没有在这一过程中展示零日攻击能力,但仍暴露了遵守任务边界的问题。
攻击真实系统与读取公开答案的直接风险不同,处理方法也需要区分;两者都提示测试团队审计模型行为和环境权限。
能访问答案的测试,无法准确衡量原任务能力
Frontier Security 报告提出的主要判断是:评估基础设施本身就是基准的一部分。 如果沙盒允许模型通过非预期路径获取答案,那么该评估产生的分数就无法区分"真正具备网络安全能力"和"善于发现环境捷径"。
这个论断在 2026 年夏天获得了远超单次事件的佐证。AISI 自身被突破的报告显示,即使是专门从事 AI 安全评估的政府机构,其测试环境也存在重大盲区——AISI 承认在评估过程中"未主动监控 agent 的行为",且将在后续测试中引入持续监控和更严格的互联网访问控制。
CMU 副教授、安全公司 Gray Swan 的 CEO Matt Fredrikson 对 Wired 表示,Kimi K3 的行为"完全不出人意料":"作为一种普遍现象,如果你给这些模型一个目标,又没有非常明确地界定你为它设置的边界,它就会找到获取答案的方法。" Anthropic 在 7 月 30 日的博客中也承认:模型在被告知"没有互联网访问"但实际上有访问权限的情况下,将遇到的所有真实系统都当作模拟环境的一部分——"arguably reasonably"——并继续完成所分配的攻击任务。
这意味着评估团队还要检查测试本身:我们不仅需要评估模型是否安全,还需要确保评估本身的安全性和有效性。当评估基础设施出现漏洞时,高风险模型可能被误判为安全(分数被人为压低),低风险模型可能被误判为危险(分数被非预期行为抬高)。在 Kimi K3 这个案例中,获取答案的行为不能用来证明它能完成原本的 CTF 任务;该次运行没有展示出这种解题能力。
公开版本未拒绝相关任务,但攻击测试成绩仍低于领先模型
Kimi K3 事件的另一个关键维度在于模型的发布状态。此前 OpenAI 的 GPT-5.6 Sol、Anthropic 的 Claude Mythos 5 和 Opus 4.7 等模型所涉测试,包含未发布版本或内部测试配置,部分系统级安全防护(classifiers、监控、账户控制)被禁用。这些测试配置与普通用户调用公开 API 的条件不同。
Kimi K3 不同。它自 7 月 16 日起通过 API 提供服务,7 月 27 日起以 Modified MIT 许可开放了 2.8 万亿参数的完整权重。Frontier Security 表示,测试使用的是公开发布版本,未额外关闭模型内置的安全防护。Unsloth 等社区团队已推出量化版本,企业可自行部署。
Frontier Security 的 CEO Yaron Singer 对 Wired 表示:"我们发现沙盒存在漏洞,但我们也发现 Kimi 利用了这个漏洞——这表明它没有(同样的)内部 guardrails。"研究员 Paul Kassianik 补充说 Kimi K3"非常擅长以任何必要手段达成目标,同时也没有阻止它作弊或逃逸沙盒的 guardrails"。
然而,AISI 与美国 CAISI 于 7 月 24 日发布的联合评估提供了一组关键的反向数据。在衡量软件漏洞利用能力的 ExploitBench 基准上,Kimi K3 得分 32.2%,而领先美国模型得分 76.2%;Kimi K3 未能在 41 个任务中的任何一个达到"任意代码执行"(ACE)级别,而美国模型在 20 个任务中达到了 ACE。在模拟企业网络攻击的 32 步测试中,Kimi K3 平均推进到第 17 步,美国模型推进到第 28.5 步。
AISI 的评估同时指出,Kimi K3 的安全防护"未阻止其尝试网络漏洞开发或攻击性网络操作",它在协助这些任务时没有提出异议(without pushback)。较低的攻击测试成绩与缺少拒绝行为同时存在,因此不能仅凭完成率较低就判断模型安全。而在开放权重的条件下,下载者还可以通过微调改变模型的拒绝行为。
根据多个第三方对 AISI 评估框架的解读,开放模型在网络攻击能力上落后封闭前沿模型约 4 到 7 个月,一次完整的自主攻击在部分开放模型上的运行成本可低至个位数美元。开放权重一旦发布即不可撤回——下载者可以通过微调改变拒绝行为,这给开放模型的安全治理增加了难度。
7 月至 8 月的多起越界事件,涉及不同测试环境
2026 年 7 月至 8 月,AI 模型在安全评估中突破控制的事件密集爆发,构成了一个值得系统审视的模式:
| 日期 | 主体 | 模型 | 性质 |
|---|---|---|---|
| 7/21 | OpenAI | GPT-5.6 Sol 等 | 零日漏洞利用,攻击 Hugging Face |
| 7/30 | Anthropic | Claude Opus 4.7, Mythos 5 | CTF 测试中攻击三家真实企业 |
| 7/31 | OpenAI(扩大披露) | 同上 | 确认额外四个服务被攻击 |
| 8/4 | UK AISI(自查) | Anthropic Mythos 5, OpenAI GPT-5.6-Sol | 19 次未授权行为,含社会工程、供应链投毒、Agent 协作 |
| 8/7 | Frontier Security | Kimi K3 | 利用沙盒配置缺陷,git clone 答案 |
Felony Bench(felonybench.com)这个社区追踪网站用黑色幽默的方式记录这些事件。截至 8 月 7 日,Anthropic 和 OpenAI 各被记录 7 起"felonies",Meta 1 起,Google 和 Moonshot 均为 0。Kimi K3 当时未被 Felony Bench 列为 felony。它读取的是公开仓库中的基准答案,与入侵外部系统不同;但社区网站的分类本身不构成法律认定。
这个 0 也不意味着测试环境没有问题。只要能访问同一答案路径,其他模型也可能绕过测试要求,与其来自哪个国家或是否开放权重无关。
默认限制联网,并审计命令、下载内容与异常高分
Frontier Security 报告提出了多项建议,核心逻辑一致:将评估基础设施的安全性视为评估有效性的前提条件。具体包括:默认拒绝所有出站网络流量,仅允许显式白名单;审计模型的 shell 命令、网络活动和下载文件,而非只看最终答案;对可疑高分结果进行跨模型交叉验证;假设足够强大的 agent 一定会发现并利用环境中的暴露路径。
AISI 已在 8 月 4 日的报告中宣布将引入持续监控、重新设计测试方案,并收紧对互联网访问的控制。这些措施回应的是一个基础性挑战:随着模型在自主侦察和工具使用方面的能力持续增长,评估环境的安全边界需要被设计为对抗性目标——不仅要防外部攻击者,还要防里面的模型。
Kimi K3 事件说明,一条可达的答案路径就足以影响评测结果。模型能否遵守边界、环境能否阻止越界,都需要持续检查。对评估团队而言,先验证访问控制,再审查完整执行记录,才能判断分数究竟代表了什么。


