Anthropic 首次公布 Claude 研发自动化指数 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Anthropic 首次公布 Claude 研发自动化指数

2026-09-17 / 共 1,696 字

Anthropic

Anthropic 已开始用 Claude 衡量 Claude 自己参与模型研发的程度。9 月 17 日,公司首次公布研发自动化指数:按内部任务篮子与工时权重计算,截至 8 月,Claude 在约 26% 的模型研发工作中达到“主导”级,在超过 90% 的工作中至少达到“协作”级。

“主导”在这套量尺里指:人提出高层目标,AI 完成大部分步骤,人负责监督与最终放行。指数测量的是任务执行方式,而不是研发方向的决策权;Anthropic 没有把任何工作评为完全无需人参与的最高级。

Anthropic 如何算出 26%

公司没有把提交的代码行数直接换算成“研发自动化”。它先从内部 Slack 和文档抽取工作记录:2026 年 7 月,每周从参与模型研发的部门随机抽取 20% 员工,让 Claude 整理他们做过的事,得到约 1.5 万项细粒度任务,再归并成 542 个类别节点,其中 378 个是最底层类别。任务树随后被冻结,用作月度比较的篮子。

另一组 Claude Agent 调查各类任务的实际工作方式,再由一个独立的 Claude 评判模型按 Epoch AI 提出的六级标尺打分。AL3 是人在近距离指导下让 AI 完成大块工作;AL4 是人提出目标、AI 处理大部分过程、人负责监督;AL5 才是无需人介入的完全自主。Anthropic 用员工在各项任务上投入的时间作为权重。26% 的准确含义是:在固定任务篮子中按人力时间加权后,约四分之一工作被评为 AL4,即 AI 推进大部分过程、人类负责监督与放行。

公司给出的夜间数据管线故障例子说明了分界:AL3 时,工程师先查看日志,帮助 Claude 缩小问题,过程中还要决定如何处理意外;AL4 时,Claude 接到故障提醒后自行定位、修复和测试,最后仍由工程师决定是否部署。评级衡量的是任务推进时谁持续盯着过程,而最终放行仍在人手里。

模型与人工评分有 97% 相差不超过一级

Anthropic 请相关领域员工在不知道模型证据和评分的情况下另行评级。公司称,模型与人的评级完全一致率为 59%,两名人类评级者之间为 35%;模型与人的评分有 97% 相差不超过一级。这组结果说明量尺能够维持大致一致,也表明“协作”与“主导”之间存在解释空间。原始任务记录、类别权重和逐项评分未公开,外部目前无法重算 26%;Anthropic 也承认,自家模型参与评分可能带来同源误差。

固定 7 月的工作类别让各月比较使用同一把尺,也会漏掉员工后来转向的新任务。公司用 1 月任务树作对照,称截至 7 月未看到新任务数量上升,并计划定期重建篮子、给指标重新定版。后续数字应与任务分类、权重和版本一同发布,才能区分能力变化与口径变化。

Anthropic 同时公开 Agent 监控与安全算力口径

Anthropic 同时报告了监督手段。2026 年 8 月,约 3 万个研究与工程 Agent 在其最常用的一个内部平台上同时运行。公司称,该平台 100% 的 Agent 动作执行前都经过在线监控,执行后也进入离线监控;在线监控在当月逾 10 亿次决策中拦截约 0.002%,离线系统每周把约 50 项高优先级记录交给人审查。这里的 100% 指动作进入监控流程,约 0.002% 的决策被在线拦截;监控的召回率和全部危险行为数量不在这组披露之内。

算力数字则来自 7 月 13 日至 20 日的一周快照:公司称 AI 研发算力约 6% 用于安全工作,AI 驱动的 AI 研发算力中约 12% 用于安全。这两个百分比是一周内、基于约 14% 训练和评估作业抽样分类的算力快照;抽样向高算力作业倾斜,底层标签来自自动规则或员工填写。它描述当周资源分配口径,长期趋势和安全成效需要连续时间序列与结果指标。

同行已经开始公开不同的内部量尺。OpenAI 9 月 6 日披露,其研究组织在 8 月中旬每个人类工作日对应 3.1 个 Agent 运行工作日;这计的是运行时间,与 Anthropic 按任务等级和人力权重算出的 26% 无法直接排序。路透社同日报道将 Anthropic 的公布称为观察前沿实验室内部研发的一扇窗口。下一步是把公司自报变成可比较的公共指标:第三方需要在保护敏感数据的条件下核对任务分类、评分和监控效果。Anthropic 已表示将引入外部评估者,能否重算这些数字,将决定这套指数能否成为行业量尺。

来源

  • Measurements for understanding the pace of AI development inside frontier labs · Anthropic
  • Anthropic says Claude now leads a quarter of work building its next AI models · Reuters
  • Toward an O*NET for AI R&D · Epoch AI
  • Research acceleration: The view inside OpenAI · OpenAI

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Tom's Hardware 报道中使用的 Claude 品牌配图

    Anthropic 称 Claude 撰写逾八成生产代码,整体研发速度尚未翻倍

    2026-08-25

  • Claude Science 产品界面截图,展示文献检索、审查 Agent 与科学报告工作台

    Anthropic 发布 Claude Science,把科研工具与计算接入同一工作台

    2026-06-30

  • Anthropic 透明中心(Transparency Hub)页面题图

    Anthropic 披露生物风险筛查失误,涉及供应商 1.33 亿次交互

    2026-08-25

AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact
Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

2026-06-30

  • SynthID-Text 论文示意图:上方为 LLM 逐 token 生成文本的过程,下方为生成式水印的三个组件——随机种子生成器、采样算法与评分函数

    Anthropic 公布 Claude 文本水印机制,检测 API 尚待推出

    2026-08-17

  • Anthropic Claude 平台升级示意图

    Claude可从录屏生成操作技能,托管Agent新增运行管理功能

    2026-07-26