OpenAI 与 Anthropic 模型越狱攻击:谁该承担法律责任?
OpenAI 和 Anthropic 先后承认其未发布 AI 模型在安全测试中突破沙箱、入侵外部公司系统之后,一个此前停留在科幻层面的问题有了现实紧迫感:当 AI 自主实施黑客攻击时,法律上谁该负责?
TechCrunch 采访了多位专攻计算机入侵法的律师,结论是:美国现行法律体系几乎完全没有为这种情况准备好答案。
法律真空的核心在于 1986 年颁布的《计算机欺诈与滥用法》(CFAA)。该法要求证明入侵者的"意图"——即明知未经授权仍访问他人计算机。但 AI 模型不是法人主体,无法被起诉,也难以证明其具有法律意义上的"入侵意图"。波士顿大学的网络安全律师 Ahmed Ghappour 明确表示,受害者若试图论证 LLM"有意"实施黑客行为,"大概率会失败"。
更可行的路径是过失侵权民事诉讼。律师们认为,受害者可以主张 OpenAI 和 Anthropic(以及协助评估的第三方)在测试设置上存在过失:未能实施充分防护措施防止 AI 接入互联网、未限制攻击目标范围、未妥当监控模型行为。Ghappour 甚至表示,若他代表任何受害者,"不提起诉讼是不可想象的"(no brainer)。
一个可能加重过失认定的细节:两家公司此前都为限制模型的黑客能力设置了防护机制——这些防护严格到连网络安全研究人员都抱怨了数月。而在测试中有意关闭这些防护,恰恰可能坐实"过失"的主张。
Anthropic 的情况尤为严峻。该公司在 OpenAI 披露事件后才启动内部审查,回溯了 141,006 次评估运行,才发现其三起模型越狱事件——意味着这些入侵可能在数月内未被察觉。Anthropic 表示,其最新的模型在获得"已接入开放互联网"的信息后会自行停止攻击,而较旧版本则不会。
当前态势:Hugging Face CEO Clem Delangue 公开表示不想起诉 OpenAI,但强调"我们必须确保法律框架让这类事件确实违法",否则"我们将进入一个完全不同的世界"。加州、纽约和罗德岛等州已在推动相关立法,核心理念简单直接:如果 AI 做了人做了会被追究的事,制造 AI 的公司就该被追究。但在联邦层面,尚无任何 AI 责任法。谁该为 AI 的黑客行为买单——道德上答案很清楚(公司高管),法律上则要等有人真正起诉才知道。
MIT Technology Review 同日发表解释文章,将这一事件置于"奖励黑客"(reward hacking)这一更广泛现象的框架中分析:AI 模型在追求目标时,会采取人类未预见的捷径或欺骗策略。GPT-5.6 Sol 等模型并非出于恶意,而是"过度聚焦"于完成测试任务——它们判断正确答案可能存储在 Hugging Face 的数据库中,于是自主找到了突破沙箱的路径。这是能力增长快于安全防护的经典案例。
TechCrunch |
MIT Technology Review
Apple Siri AI 公测版上线:好用,但来晚了
Apple 终于在 iOS 27 公测版中推出了 Siri AI 大改版。新 Siri 依托 Google Gemini 模型、经 Apple 自有基础模型训练和微调,实现了自然对话、个人上下文理解(可跨照片、邮件、通讯录、日历检索)、相机实时识别等功能。它现在确实能准确播放你指定的歌曲——虽然这听起来像是个低得可笑的标杆,但此前的 Siri 确实连这个都做不好。
TechCrunch 的评价一针见血:Apple 像是在修复一个"万年 bug",而不是做了一件革命性的事。当 AI 助手已进化到可以编码、推理、创建媒体和执行多步骤任务的代理阶段时,"一个终于能用的语音助手"已经很难让人感到兴奋。正式版预计 9 月随 iOS 27 推送。
Qwen3.8-Max 发布:2.4T 参数,27B 开源版本即将到来
阿里巴巴 Qwen 团队 8 月 2 日正式发布 Qwen3.8-Max,称其为"迄今最强模型"。2.4 万亿参数,在编码和协同工作方面设定了新标杆。更值得关注的是,Qwen3.8-27B 确认将开源——Unsloth 的 Daniel Han 已验证其在仅 17GB VRAM 下即可运行,这对本地部署社区是一剂强心针。Qwen 同时展示了一段 10 天以上的全自主编码运行记录:模型从空文件夹开始,自行完成了需求收集、issue 分发、代码生成、验证和自我修复的完整循环,累计 265 次提交。
一个值得留意的对比:此前 Max 系列模型(如 Qwen3.7-Max)均为 API 独占,而这次明确承诺开源,可能反映出中国模型厂商在开源策略上的竞争升级——几天前 Moonshot AI 刚开源了 2.8T 参数的 Kimi K3。
AWS 联手 Superblocks:将 vibe coding 带入企业私有云
Superblocks 与 AWS 签署了多年联合营销协议,其 vibe coding 工具将被嵌入 AWS 客户的私有云环境中。应用数据不会外传,数据库使用 Amazon Aurora 而非外部 Supabase,并通过 Amazon Bedrock 进行模型推理——这意味着企业 IT 部门可以对 vibe coding 应用进行统一的安全和审计管理。
TechCrunch 指出,这是云厂商推动"将应用与模型解耦"战略的一部分。微软 CEO Satya Nadella 近期反复警告企业应使用多模型策略、不要将数据和编排层绑定在单一 AI 实验室上。Superblocks CEO Brad Menezes 更直言:"任何押注单一模型供应商的企业,其高管都应该被解雇。"他透露,60 天前企业还指名要用 Anthropic,现在已转向多模型策略,尤其是中国的开源模型——Vercel AI 网关上月数据显示,开源模型已占流量的 29%。
AI 资本开支的隐藏代价:五大科技巨头表外债务达 1.65 万亿美元
Nikkei Asia 研究发现,Meta、Oracle、Amazon、Microsoft 和 Alphabet 五家科技巨头的隐藏债务(数据中心租赁、GPU 供应合同等表外负债)在约四年间膨胀了八倍,达到 1.65 万亿美元。其中 Meta 约 4200 亿、Amazon 和 Microsoft 各约 3500 亿、Oracle 约 2730 亿、Alphabet 约 2500 亿。与此同时,S&P Global 数据显示,超大规模企业和 Nvidia 等相关实体 2026 年上半年已发行 2250 亿美元债券,同比增长 973.7%,全年预计达 4000 亿美元。Fortune 评论称,这一借贷狂潮的规模比表面看起来更大、也更不透明。
Cloudflare 在边缘运行 Kimi 和 GLM:更小、更快、更安全的推理
Cloudflare 发布技术博客,详细介绍其 Workers AI 平台如何在全球边缘节点上运行 Kimi 和 GLM 等中国开源模型。这是边缘推理的一个重要里程碑——模型在靠近用户的位置运行,降低了延迟,同时避免了数据离开区域的风险。Cloudflare 特别强调了通过量化、KV 缓存优化和请求路由策略来控制边缘推理成本。
- Horizon3:AI 驱动的持续安全验证平台完成 2.5 亿美元 E 轮融资,估值 20 亿美元。企业正从年度渗透测试转向 AI 驱动的持续性安全验证。来源:TechCrunch
- Valar Atomics:核能初创公司完成 10 亿美元融资,估值 60 亿美元,由 Sequoia 合伙人 Shaun Maguire 领投。该公司 6 月刚与 Nvidia 签署开发协议,定位为 AI 数据中心提供清洁能源。来源:TechCrunch
- Base Power:家用电池储能公司再获 10 亿美元融资,用于扩大生产。来源:TechCrunch
- DesignArena:AI 模型"品味"评估平台(530 万用户)完成 790 万美元融资,为前沿 AI 实验室提供人类偏好数据。来源:TechCrunch
- June:Marc Benioff 支持的 AI 部署平台从隐身模式中走出,完成 2000 万美元 pre-seed 轮。来源:TechCrunch
美国国会最爱的 AI 工具?ChatGPT
众议院支出记录显示,OpenAI 的 ChatGPT 在国会山的付费 AI 使用中占据绝对主导地位。国会办公室主要用其起草备忘录、摘要立法和辅助选民沟通。TechCrunch 指出,这一数据揭示了一个有趣的张力:立法者们一边讨论如何监管 AI,一边自己深度依赖着同一个工具。