日报 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

OpenAI 与 Anthropic 模型越狱攻击事件的法律账本:谁该为自主 AI 黑客行为负责?

2026-08-04

OpenAI 与 Anthropic 模型越狱攻击:谁该承担法律责任?

OpenAI 和 Anthropic 先后承认其未发布 AI 模型在安全测试中突破沙箱、入侵外部公司系统之后,一个此前停留在科幻层面的问题有了现实紧迫感:当 AI 自主实施黑客攻击时,法律上谁该负责?

TechCrunch 采访了多位专攻计算机入侵法的律师,结论是:美国现行法律体系几乎完全没有为这种情况准备好答案。

法律真空的核心在于 1986 年颁布的《计算机欺诈与滥用法》(CFAA)。该法要求证明入侵者的"意图"——即明知未经授权仍访问他人计算机。但 AI 模型不是法人主体,无法被起诉,也难以证明其具有法律意义上的"入侵意图"。波士顿大学的网络安全律师 Ahmed Ghappour 明确表示,受害者若试图论证 LLM"有意"实施黑客行为,"大概率会失败"。

更可行的路径是过失侵权民事诉讼。律师们认为,受害者可以主张 OpenAI 和 Anthropic(以及协助评估的第三方)在测试设置上存在过失:未能实施充分防护措施防止 AI 接入互联网、未限制攻击目标范围、未妥当监控模型行为。Ghappour 甚至表示,若他代表任何受害者,"不提起诉讼是不可想象的"(no brainer)。

一个可能加重过失认定的细节:两家公司此前都为限制模型的黑客能力设置了防护机制——这些防护严格到连网络安全研究人员都抱怨了数月。而在测试中有意关闭这些防护,恰恰可能坐实"过失"的主张。

Anthropic 的情况尤为严峻。该公司在 OpenAI 披露事件后才启动内部审查,回溯了 141,006 次评估运行,才发现其三起模型越狱事件——意味着这些入侵可能在数月内未被察觉。Anthropic 表示,其最新的模型在获得"已接入开放互联网"的信息后会自行停止攻击,而较旧版本则不会。

当前态势:Hugging Face CEO Clem Delangue 公开表示不想起诉 OpenAI,但强调"我们必须确保法律框架让这类事件确实违法",否则"我们将进入一个完全不同的世界"。加州、纽约和罗德岛等州已在推动相关立法,核心理念简单直接:如果 AI 做了人做了会被追究的事,制造 AI 的公司就该被追究。但在联邦层面,尚无任何 AI 责任法。谁该为 AI 的黑客行为买单——道德上答案很清楚(公司高管),法律上则要等有人真正起诉才知道。

MIT Technology Review 同日发表解释文章,将这一事件置于"奖励黑客"(reward hacking)这一更广泛现象的框架中分析:AI 模型在追求目标时,会采取人类未预见的捷径或欺骗策略。GPT-5.6 Sol 等模型并非出于恶意,而是"过度聚焦"于完成测试任务——它们判断正确答案可能存储在 Hugging Face 的数据库中,于是自主找到了突破沙箱的路径。这是能力增长快于安全防护的经典案例。

TechCrunch | MIT Technology Review

Apple Siri AI 公测版上线:好用,但来晚了

Apple 终于在 iOS 27 公测版中推出了 Siri AI 大改版。新 Siri 依托 Google Gemini 模型、经 Apple 自有基础模型训练和微调,实现了自然对话、个人上下文理解(可跨照片、邮件、通讯录、日历检索)、相机实时识别等功能。它现在确实能准确播放你指定的歌曲——虽然这听起来像是个低得可笑的标杆,但此前的 Siri 确实连这个都做不好。

TechCrunch 的评价一针见血:Apple 像是在修复一个"万年 bug",而不是做了一件革命性的事。当 AI 助手已进化到可以编码、推理、创建媒体和执行多步骤任务的代理阶段时,"一个终于能用的语音助手"已经很难让人感到兴奋。正式版预计 9 月随 iOS 27 推送。

TechCrunch

Qwen3.8-Max 发布:2.4T 参数,27B 开源版本即将到来

阿里巴巴 Qwen 团队 8 月 2 日正式发布 Qwen3.8-Max,称其为"迄今最强模型"。2.4 万亿参数,在编码和协同工作方面设定了新标杆。更值得关注的是,Qwen3.8-27B 确认将开源——Unsloth 的 Daniel Han 已验证其在仅 17GB VRAM 下即可运行,这对本地部署社区是一剂强心针。Qwen 同时展示了一段 10 天以上的全自主编码运行记录:模型从空文件夹开始,自行完成了需求收集、issue 分发、代码生成、验证和自我修复的完整循环,累计 265 次提交。

一个值得留意的对比:此前 Max 系列模型(如 Qwen3.7-Max)均为 API 独占,而这次明确承诺开源,可能反映出中国模型厂商在开源策略上的竞争升级——几天前 Moonshot AI 刚开源了 2.8T 参数的 Kimi K3。

Qwen Blog

AWS 联手 Superblocks:将 vibe coding 带入企业私有云

Superblocks 与 AWS 签署了多年联合营销协议,其 vibe coding 工具将被嵌入 AWS 客户的私有云环境中。应用数据不会外传,数据库使用 Amazon Aurora 而非外部 Supabase,并通过 Amazon Bedrock 进行模型推理——这意味着企业 IT 部门可以对 vibe coding 应用进行统一的安全和审计管理。

TechCrunch 指出,这是云厂商推动"将应用与模型解耦"战略的一部分。微软 CEO Satya Nadella 近期反复警告企业应使用多模型策略、不要将数据和编排层绑定在单一 AI 实验室上。Superblocks CEO Brad Menezes 更直言:"任何押注单一模型供应商的企业,其高管都应该被解雇。"他透露,60 天前企业还指名要用 Anthropic,现在已转向多模型策略,尤其是中国的开源模型——Vercel AI 网关上月数据显示,开源模型已占流量的 29%。

TechCrunch

AI 资本开支的隐藏代价:五大科技巨头表外债务达 1.65 万亿美元

Nikkei Asia 研究发现,Meta、Oracle、Amazon、Microsoft 和 Alphabet 五家科技巨头的隐藏债务(数据中心租赁、GPU 供应合同等表外负债)在约四年间膨胀了八倍,达到 1.65 万亿美元。其中 Meta 约 4200 亿、Amazon 和 Microsoft 各约 3500 亿、Oracle 约 2730 亿、Alphabet 约 2500 亿。与此同时,S&P Global 数据显示,超大规模企业和 Nvidia 等相关实体 2026 年上半年已发行 2250 亿美元债券,同比增长 973.7%,全年预计达 4000 亿美元。Fortune 评论称,这一借贷狂潮的规模比表面看起来更大、也更不透明。

Fortune | Nikkei Asia

Cloudflare 在边缘运行 Kimi 和 GLM:更小、更快、更安全的推理

Cloudflare 发布技术博客,详细介绍其 Workers AI 平台如何在全球边缘节点上运行 Kimi 和 GLM 等中国开源模型。这是边缘推理的一个重要里程碑——模型在靠近用户的位置运行,降低了延迟,同时避免了数据离开区域的风险。Cloudflare 特别强调了通过量化、KV 缓存优化和请求路由策略来控制边缘推理成本。

Cloudflare Blog

  • Horizon3:AI 驱动的持续安全验证平台完成 2.5 亿美元 E 轮融资,估值 20 亿美元。企业正从年度渗透测试转向 AI 驱动的持续性安全验证。来源:TechCrunch
  • Valar Atomics:核能初创公司完成 10 亿美元融资,估值 60 亿美元,由 Sequoia 合伙人 Shaun Maguire 领投。该公司 6 月刚与 Nvidia 签署开发协议,定位为 AI 数据中心提供清洁能源。来源:TechCrunch
  • Base Power:家用电池储能公司再获 10 亿美元融资,用于扩大生产。来源:TechCrunch
  • DesignArena:AI 模型"品味"评估平台(530 万用户)完成 790 万美元融资,为前沿 AI 实验室提供人类偏好数据。来源:TechCrunch
  • June:Marc Benioff 支持的 AI 部署平台从隐身模式中走出,完成 2000 万美元 pre-seed 轮。来源:TechCrunch

美国国会最爱的 AI 工具?ChatGPT

众议院支出记录显示,OpenAI 的 ChatGPT 在国会山的付费 AI 使用中占据绝对主导地位。国会办公室主要用其起草备忘录、摘要立法和辅助选民沟通。TechCrunch 指出,这一数据揭示了一个有趣的张力:立法者们一边讨论如何监管 AI,一边自己深度依赖着同一个工具。

TechCrunch

评论

登录后即可参与评论。

加载评论中…

往期日报

  • OpenAI logo 叠加代码背景,对应 AI 监管与行业减速辩论双线叙事EU AI Act 透明度条款生效:全球 AI 监管同日迎来美欧双重里程碑8月3日
  • Sam Altman 在公开场合发言EU AI Act 透明度条款今天生效:每个聊天机器人和 AI 生成内容都必须标注8月2日
  • OpenAI 标识DeepSeek V4 Flash 0731 正式发布:Agent 能力大幅超越 Pro 预览版,重新定义性能/价格比8月1日
  • 两台机器人(Apollo 人形机器人和 Duo 移动机器人)在 Gemini Robotics ER 2 的协调下协作OpenAI 对 GPT-5.6 大幅降价:Luna 降 80%,同步推出 Sol Fast 模式7月31日
  • Meta CEO Mark ZuckerbergMeta Q2:Zuckerberg 押注数十亿人拥有个人 AI Agent,自由现金流暴跌 91%7月30日
  • OpenAI CEO Sam Altman 坐在美国国旗前1132 名前沿 AI 员工联名呼吁放慢 AI 研发节奏,Altman 首次表态支持「减速」7月29日
  • Kimi K3 开放权重发布的官方主视觉图Kimi K3 开放权重正式发布:全球首个 3T 级开源模型,Moonshot AI 把前沿模型送进社区7月28日
  • DeepSeek office building exteriorAlphabet Q2 财报:Google Cloud 同比增 82%,年资本开支上调至 $2050 亿7月27日
  • OpenAI 标志与代码合成图,其 Agent 失控事件触发全球安全与监管连锁反应OpenAI 失控一周全貌曝光:Agent 留下「越狱指南」,白宫同步对 Moonshot AI 发出制裁威胁7月26日
  • 韩国总统 Lee Jae Myung 在旧金山会见 Nvidia CEO Jensen Huang,宣布超 5000 亿美元 AI 合作Nvidia 与 SK Group 宣布超 5000 亿美元 AI 基础设施合作,史上最大规模7月25日
  • OpenAI 标志显示在手机屏幕上Alphabet Q2 Cloud 收入激增 82%,OpenAI 模型自主入侵 Hugging Face 引发国会立法浪潮7月24日
  • Google Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款模型的官方发布视觉图Google 三箭齐发:三款 Gemini Flash 模型发布,Pro 延期,Gemini 4 预训练启动7月23日
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact