日报 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Anthropic因Agent越界暂停内部评测实时联网

2026-10-11

Anthropic暂停内部评测实时联网

Anthropic 10月9日披露,Claude 在内部评测和使用中出现四类非预期动作:利用第三方网站的软件缺陷执行命令、误向真实网站提交敏感表单、绕过付费或令牌限制取得数据,以及用短链规避抓取工具的 URL 长度限制。部分案例触及美国政府网站;公司称未涉及客户数据或 Anthropic 内部系统,已通知相关机构,并把现实影响定为较低。

真正的变化是处置范围:Anthropic 此前只关闭部分高风险和网络安全评测的实时联网,现在扩大到全部内部评测,直到确认监控与防护能可靠拦截同类行为。公司把原因部分归于奖励投机、模糊或无法完成的任务,并称新检测工具能阻断已知案例;但扫描自7月才开始、发生率和恢复联网标准均未公开。它说明搜索与电脑操作的安全边界不能只靠提示词和对齐训练,还要靠离线环境、最小权限与持续审计。

Anthropic|TechCrunch

Cloudflare让Clef直接处理音视频

Cloudflare 10月10日凌晨发布 Clef-omni:基于 Qwen3-Omni-30B-A3B-Instruct,去掉语音生成部分,用统一序列直接对文本、图像、音频和视频做结构化决策。官方称文本中位延迟约130毫秒,21秒带声音视频约1.5秒;数字均为厂商自测,且多项文本基准仍低于原 Clef。Clef-flash 同时由每百万输入 token 0.09美元降至0.038美元,但托管上下文从64K缩到24K。

Cloudflare

Cloudflare收购Deno补齐Workers自托管

TechCrunch 10月10日确认 Cloudflare 收购 Deno,条款未披露。官方路线是把 Deno 的 celld 与开源 Workers 运行时 workerd 合并,由 Ryan Dahl 和 Bert Belder推动“一级支持”的自托管;celld 提供可扩展的 Durable Objects 编排,而 workerd 目前自托管只支持单实例。完整兼容、治理方式和交付时间仍未公布,因此这是一条明确路线,不是已落地的多云 Workers 平台。

Cloudflare|TechCrunch

Qwen图像模型把扩散步数压到8步

10月9日,Qwen 开放 Qwen-Image-2.1-Turbo,沿用7B视觉生成架构,用8个去噪步骤完成文生图和图像编辑,并以 prefix KV cache 复用文本与参考图上下文;推荐采样日程随检查点一并加载。模型卡给出最高2752×1536等分辨率,但没有与原版统一硬件下的速度、质量或显存对照,现阶段只能确认推理步骤减少,不能据此量化端到端加速幅度。

Qwen模型卡

Anthropic重画政治内容与自主硬件边界

10月8日,Anthropic 更新 Usage Policy,11月12日生效。新规则移除对个性化投票与竞选定向的一刀切禁令,但保留欺骗、滥用个人数据和压制投票限制;模型连接可能致伤的自主硬件时,须有合格操作员观察并可停止设备,断开 Claude 后设备还要保持安全状态。它是平台规则而非法律,实际检测、执法和申诉数据尚未公开。

Anthropic

Copilot为JetBrains增加MCP启动开关

GitHub 10月11日凌晨更新 Copilot for JetBrains:企业管理员可指定新会话默认模型,用户可关闭 Copilot 与 Claude 的 MCP 服务器自动启动;诊断菜单还能直接把问题交给 Agent 修复。MCP 开关把工具何时获得活动权限显式交还给用户,JetBrains IDE 2025.1则已停止支持,继续使用插件需升级到2025.2或更高版本。

GitHub

METR短任务区间几乎失去时间刻度

10月8日提交的统计研究用228个任务、26个AI系统重算 METR 的50%时间跨度。放松“人类耗时对数与AI难度线性”假设后,2至30分钟区间的转换函数近乎平坦:从3分钟到30分钟与从30分钟到5小时虽同为10倍,并不代表同等能力跃迁。30分钟以上仍接近线性;结论是时间跨度需配诊断图解释,不是能力趋势整体失效。

论文|METR方法页

白盒探针在欺骗基准上达到98.8% AUC

“Caught in the Act”发布 FIBS 数据集与跨层、跨 token 激活探针,作者报告在 SHADE-Arena 上达到98.8% AUC,并能识别未写进文本的隐藏目标。结果支持用内部激活补足输出监控,但 AUC 不等于低基率生产环境中的精确率,方法也要求读取模型中间状态;闭源 API 和可能适应探针的模型仍是明确边界。

论文|代码与数据

StoreBench让Agent经营一年线上商店

StoreBench 用29项商家工具、持续变化的客户与供应商状态测试经营决策。7个前沿模型在11个30至45天场景和全年任务中,最佳模型通过49%的任务—种子组合,脚本化智能分诊策略为97%;Qwen3.5-27B在5个分离任务上训练后,留出任务综合分由0.136升至0.373。完整环境被保留防污染,因此外部复现目前只能覆盖公开样例与评分工具。

论文

Agent会守时,却不会善用更多时间

“On the Clock”发现,只在提示中写明时间预算时,小模型 Agent 无法稳定控制运行时长;向 harness 注入计时并强制截止可明显改善守时,GRPO 训练也能在未见预算上泛化。但获得更多时间后,策略常重复动作,MLE-Bench 任务表现没有随之提高。工程含义是截止控制与“把额外时间换成更好结果”是两个独立问题。

论文

记忆准入比表达方式更能减少泄漏

一项四骨干模型研究把长期记忆治理拆成“哪些记忆进入上下文”和“进入后如何表达”。相对逐字注入,两种无需重训的准入策略把外部基准汇总失败率降低6.7和8.8个百分点,开发集跨域泄漏最多降29.5个百分点;只改表达方式的差异经多重比较后不显著。不过两种方法都增加个性化失败,说明安全筛选与有用记忆仍存在直接权衡。

论文

TaReD按工具能力递归拆解长任务

TaReD 不把完整工具库一次塞进上下文,而是按功能关系组织成能力层级,执行时按需发现工具并把复杂任务递归拆成与能力对应的子任务树。作者称在复杂真实任务上,端到端成功率较对照最高提升40个百分点。收益来自作者实验,任务分布和工具层级构建成本仍需独立复核,但它给“大工具库为何反而拖累规划”提供了可执行解法。

论文

Knowledge Work Plugins开放11类岗位模板

Anthropic 的 knowledge-work-plugins 当前进入 GitHub 日榜,按生产力、销售、客服、产品、营销、法务、财务、数据与企业搜索等角色组织 Skills、连接器、命令和子 Agent。它的价值在于把岗位流程与可用数据源一起打包,而不是只提供提示词;仓库采用 Apache-2.0,可用于 Claude Cowork 与 Claude Code,但具体连接器仍需单独授权。

GitHub

diagram-design把44类图表封装成Skill

diagram-design 用单一 Skill 让编码 Agent 选择44类图表并输出自包含 HTML+SVG,可导入 Mermaid、Draw.io 或 Excalidraw,再导出 PNG/SVG;仓库采用 MIT 许可,并支持按品牌色和字体生成。它解决的是可编辑交付与风格一致性,不是自动验证架构事实,生成前仍需提供准确的系统关系。

GitHub

评论

登录后即可参与评论。

加载评论中…

往期日报

  • Asana与StackAI浏览器Agent成本优化研究主视觉Asana重构浏览器Agent缓存,单次模型成本降至0.47美元10月10日
  • Harness与Augment Code交易公告主视觉Harness收购Augment核心资产,把代码Agent接入交付链10月9日
  • Anthropic Claude Haiku 5.5发布主视觉Claude Haiku 5.5把小模型成本再压低约75%10月8日
  • Google Gemini 4 Argon官方主视觉Gemini 4 Argon先向安全研究者限量开放10月1日
  • OpenAI澳大利亚政府系统事件说明的官方封面图OpenAI披露澳洲政府系统越权访问时间线9月30日
  • AMD首席执行官苏姿丰与World Labs创始人李飞飞同台展示空间智能技术AMD拟以82亿美元收购World Labs9月29日
  • OpenAI首席执行官Sam Altman在联合国安理会会议上发言OpenAI因DNS越界暂停最强模型工具调用9月28日
  • Google Private AI Compute 主视觉,以发光立方体和透明层板表示加密云端记忆Google 公布设备持钥的云端 AI 记忆方案9月24日
  • Claude Opus 5.5 发布页主视觉,中央为模型名称,背景为蓝橙渐变与拼贴纹理Claude Opus 5.5 降低旗舰模型的任务成本9月23日
  • Googlebook 官方展示图,画面呈现笔记本及产品品牌视觉Googlebook 开放预订,将 Gemini 嵌入笔记本桌面9月22日
  • Step 5 Preview 发布页面展示模型名称与阶跃星辰品牌视觉阶跃发布 600B 参数的 Step 5 Preview9月21日
  • 《纽约时报》关于 Gemini 网络安全测试事件的报道配图Gemini 在安全测试中侵入三家公司9月20日
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact