升级 Claude Sonnet 5:推理参数要调整,token 用量需重算 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

升级 Claude Sonnet 5:推理参数要调整,token 用量需重算

2026-07-02 / 共 4,754 字

Pexels / luis gomes

Anthropic 在 2026 年 6 月 30 日发布 Claude Sonnet 5,公布了相对 Sonnet 4.6 的多项评测进步:SWE-bench Pro 从 58.1% 跃升至 63.2%,FrontierCode 从 15.1% 升至 38.8%,BrowseComp 从 76.2% 提升至 84.7%。对已有应用而言,迁移还涉及 API 行为和实际用量的变化。

Sonnet 5 默认开启自适应思考,移除了手动思考预算,并限制了采样参数的调整。新分词器还会改变同一段文本的 token 数量。这些变化要求开发者重新检查请求参数、推理开销和输出限制。

下面按思考设置、采样控制和分词成本,说明迁移时需要关注的事项。

自适应思考默认开启,手动思考预算不再受支持

Sonnet 4.6 既支持自适应思考,也保留了手动模式,例如 thinking: {type: "enabled", budget_tokens: 32000}。手动模式需要预先给出思考 token 预算,预算是否合适则取决于任务。

Sonnet 5 移除了手动模式。thinking: {type: "enabled", budget_tokens: N} 直接返回 400 错误。替代它的是自适应思考(Adaptive Thinking),且默认开启;若不需要思考,可显式设置 thinking: {type: "disabled"}。

用 effort 引导思考程度,模型可在工具调用之间继续推理

自适应思考的核心机制是:模型在收到请求后,自行评估任务复杂度,动态决定是否需要扩展推理以及推理的深度。根据 Anthropic 的技术文档,在默认的 high 努力级别下,Claude「几乎总是会思考」;在 medium 级别下,模型可能对简单查询跳过思考;在 low 级别下,思考被最小化,在简单且重视速度的任务上可能跳过。

开发者不再指定思考的 token 预算,而是通过 effort 参数提供软性指导:

努力级别 模型行为
max 允许最充分的思考,仍受总输出上限约束
xhigh 始终深度思考,允许扩展探索
high(默认) 几乎总是思考,复杂任务深度推理
medium 适度思考,极简单查询可能跳过
low 尽量减少思考,简单且重视速度的任务可能跳过

这些级别属于行为引导,仍受 max_tokens 等输出限制约束。自适应思考还自动启用了交错思考(interleaved thinking)——模型可以在工具调用之间进行推理,适用于多步 Agent 工作流程。Sonnet 4.6 在旧手动模式下需要 interleaved-thinking-2025-05-14 beta header;使用自适应模式时则已自动支持,Sonnet 5 延续了这一行为。

对推理成本与延迟的实际影响

默认开启思考会改变原先不启用思考的请求:响应会包含 thinking blocks,而 max_tokens 对思考和响应文本的总输出设限。这个总量规则并非首次出现,但按 Sonnet 4.6 不思考模式设置的额度,迁移后可能留不出足够的正文空间。

从成本角度看,thinking tokens 按输出 token 计费。但 display 默认值从 Sonnet 4.6 的 "summarized" 变为 "omitted"——思考内容默认不返回给用户,只保留加密的 signature 字段用于多轮对话续接。省略思考摘要可以减少相关传输和显示开销,但不表示内部推理不再耗时;计费也不变——你仍然为完整的思考过程付费。

对于那些需要精确控制推理成本的工作负载,自适应思考确实意味着失去了一部分预算可预测性。Anthropic 的建议是:用 max_tokens 做硬上限,用 effort 做软引导,以及——如果模型思考得「太多」或「太少」——通过 system prompt 来引导,例如追加 "Please think hard before responding." 或 "Answer directly without deliberating."。

开发者仍可设置总输出上限,并通过 effort 和提示词影响思考程度;变化在于不能再单独指定手动思考 token 预算。

非默认采样参数会报错,输出风格改用提示词引导

另一处会影响旧代码的变化,是采样参数的可配置范围。

在 Sonnet 5 上,设置 temperature、top_p、top_k 为非默认值会直接返回 400 错误。你可以传默认值,也可以干脆不传——但你不能调。

旧代码需移除非默认参数,改用提示词表达风格偏好

Opus 4.7 和 Opus 4.8 已经率先限制了这些参数,Sonnet 5 是第一个继承这一约束的 Sonnet 级模型。此前依靠采样参数控制回答变化的应用,需要调整请求方式。

官方文档给出的替代方案是:如果你想控制输出的「创造性」或「确定性」,用 system prompt 指令来表达。不再说 temperature=0.3,可以用自然语言告诉模型「请给出最确定、最保守的回答」。这类指令影响回答倾向,不能保证重复调用产生完全相同的结果。

多步 Agent 需重新评测各步骤的输出稳定性

对于此前依赖 temperature 调节输出变化的应用,这会改变测试和集成方式。旧参数无法继续使用,团队需要重新验证提示词、输出约束和重复调用时的稳定性。

多步 Agent 会调用工具、读取文件并作出决策,不同阶段对稳定性和探索范围的需求可能不同。在允许相关参数的模型上,开发者可以按步骤用程序调整;Sonnet 5 则需要通过它支持的参数、提示词和应用校验来处理这些差异。

ChatForest 的技术分析指出:「如果你的代码大量依赖 temperature 或其他采样参数来控制输出变异性,替代方案是 system prompt 指令。Sonnet 5 的自适应思考系统在内部处理了方差。」

这段分析是对产品设计的解读;自适应思考与采样控制的作用仍有区别。对于需要严格格式、稳定措辞或高一致性的场景,应通过实际任务检查新模型的输出。

新分词器改变 token 数,同价请求也要重新估算成本

新分词器不会改变 API 请求格式,却会影响 token 计数。Sonnet 5 使用了与 Opus 4.7 类似的新分词器。Anthropic 给出的同等输入用量范围是原来的 1.0–1.35 倍,取决于内容类型,部分文本的增幅接近 30%。

官方称新分词器有助于性能,用量增幅因内容而异

Anthropic 表示,分词器更新改变了文本处理方式,有助于提高性能,取舍是同一输入可能产生更多 token。这与 Opus 4.7 的变更类似。其对推理、编程和工具使用成绩的具体贡献,还需要单独评估。

四个文本样本中,英文 token 增幅高于中文

Simon Willison 使用其 Claude Token Counter 工具对不同语言进行了实测,结果揭示了新分词器的成本结构在不同语言间差异巨大:

  • 英语:《世界人权宣言》英文版从 2,356 token 增至 3,341 token(1.42×)
  • 西班牙语:同一文件西班牙语版从 3,572 token 增至 4,747 token(1.33×)
  • 简体中文:同一文件中文版从 3,334 token 仅增至 3,360 token(1.01×),几乎不变
  • Python 代码:一个 4,279 行的 Python 文件从 44,014 token 增至 56,113 token(1.27×)

这些样本中,英文和代码的 token 增幅接近 30% 或更高,中文版《世界人权宣言》则几乎不变。但样本数量有限,不能把结论推广到所有英文、代码或中文请求;应对自己的常用文本重新计数。

单价不变时,每次请求的费用仍可能增加

按 6 月 30 日发布时公布的安排,Sonnet 5 至 2026 年 8 月 31 日的推广价为每百万输入 token 2 美元、输出 token 10 美元,原计划此后采用 $3/MTok 输入、$15/MTok 输出的标准价,与 Sonnet 4.6 相同。比较请求成本时,要同时考虑当时适用单价与实际 token 数。

仅按每百万输入 token 3 美元计算,不计输出和缓存折扣:Sonnet 4.6 的 1,000 token 输入费用是 $0.003。若某段同等内容在 Sonnet 5 中变为 1,300–1,420 token,费用则为 $0.00390–$0.00426。这里的用量增幅只是示例,推广价期间的费用也需按更低单价另算。Opus 4.7 的分词变更同样提示开发者,应重新计数后再比较总成本。

更微妙的影响在于上下文窗口:Sonnet 5 的上下文窗口是 1M token,如果某类文本的 token 数增加约 30%,同样的文本容量折算到旧分词器,约相当于 Sonnet 4.6 的 770K token。这只是该增幅假设下的换算;长文档应用仍应按具体内容测量。

1M 上下文和 128K 输出为长任务留出更多空间

Sonnet 5 还支持默认 1M token 上下文窗口和 128K token 最大输出;在 Message Batches API 上使用相应 beta header,输出上限可提高到 300K,不能将这一数值套用到所有同步请求。

这些数字不是孤立的。在 agentic 场景中,一个典型的编码 Agent 可能需要在一次会话中加载整个代码库、多轮工具调用结果、以及逐步积累的上下文——1M 的窗口可能容纳数万行代码或数十个文件,减少部分压缩或重置需求;实际容量取决于文件长度、分词结果及工具调用产生的内容。

128K 输出上限则为较长的单次结果留出更多空间。一个生成完整 PR 的 Agent 可能需要输出数千行代码变更、测试文件和文档;一个执行法律分析的 Agent 可能需要输出数十页的结构化分析。传统的 4K–8K 输出限制需要多轮交互来拼接结果,128K 使单轮完成复杂输出的可能性大大增加。

自适应思考、交错思考、1M 上下文和 128K 输出共同增加了处理长任务的空间。容量上限并不保证长上下文始终连贯或单轮结果完整,仍要检查任务成功率、截断情况与成本。

Anthropic 多款模型减少手动设置,开发者仍需控制任务边界

在 Anthropic 自己的产品线中,类似变化已先后出现:

  • Opus 4.7(2026 年 4 月):引入新分词器,限制非默认 temperature/top_p/top_k,并移除手动思考预算
  • Opus 4.8(2026 年 5 月):延续仅支持自适应思考、不接受手动思考预算的设计
  • Sonnet 5(2026 年 6 月):三项变化首次同时落地在 Sonnet 级模型上

在 Anthropic 的最高端模型——Fable 5 和 Mythos 5——思考已经被锁定为「始终开启、不可关闭」状态。这反映出 Anthropic 在部分产品中减少手动推理与采样设置,让模型承担更多思考策略选择;其他公司的接口并不都遵循同一种设计。

多步工具调用、规划和错误恢复,确实需要根据任务进展调整推理。但这种调整可以由模型和应用共同承担。程序可以设置步骤规则、验证工具参数并限制操作范围,模型更自主并不意味着开发者无需控制流程。

对于习惯了精细控制推理预算和采样行为的开发者——尤其是那些在特定场景下通过调参获得过显著收益的团队——接口变化需要重新测试和适配。模型的行为也值得重测:Sonnet 5 系统卡记录,在某些指标上,新模型表现出更高的「过度拒绝」(over-refusal)率,而其自动化行为审计中的失调行为率虽然低于 Sonnet 4.6,却高于 Opus 4.8 和 Mythos Preview。

Sonnet 5 留下的问题是:哪些决策适合交给模型,哪些还需要应用设定硬限制? 对开发者而言,答案要由实际任务的质量、可预测性和完成成本来判断。其他实验室是否采用类似设计,也值得继续观察。


迁移检查主要包括:确认是否需要默认思考、替换旧手动思考配置、移除非默认采样参数,并重新测量 token 用量和输出预算。使用 Bedrock 的团队还需核对接入路径与兼容性。改动多少代码和需要多少验证工作,取决于现有应用。

当 Agent 操作浏览器、终端和代码库时,参数迁移只是第一步。开发者仍要验证它能否稳定完成任务,以及哪些操作必须受到应用层约束。

来源

  • Introducing Claude Sonnet 5 · Anthropic
  • Claude Sonnet 5 Is Out: The Agentic Upgrade, Three Breaking Changes, and a Hidden Cost Shift · ChatForest
  • Introducing Claude Sonnet 5 on AWS: Anthropic's most capable Sonnet model · AWS
  • What's new in Claude Sonnet 5 · Anthropic
  • Adaptive thinking — Claude Platform Docs · Anthropic
  • Anthropic launches Claude Sonnet 5 as a cheaper way to run agents · TechCrunch
  • What's new in Claude Sonnet 5 — Simon Willison · Simon Willison's Weblog
  • Claude Sonnet 5 System Card · Anthropic

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

    Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

    2026-06-30

  • 由蝴蝶组成的数字 5——Anthropic 官方 Fable 5 发布主视觉图

    Claude Fable 5 促销将于 7 月 19 日结束,Max 计划继续包含部分用量

    2026-07-20

  • Claude Fable 5.1 基于 NASA Magellan 雷达数据重建的金星高分辨率高程图,展示一座约 15 公里宽的火山

    Claude Fable 5.1 发布:缓存读取降价 75%,输入输出价不变

    2026-09-01

AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact
Anthropic 公司标识,Fable 5 是该公司的旗舰 AI 模型,7 月 8 日起全面转为按使用量计费

Claude Fable 5 订阅内额度到期,用户需另付费继续使用

2026-07-09

  • Anthropic Claude 平台升级示意图

    Claude可从录屏生成操作技能,托管Agent新增运行管理功能

    2026-07-26

  • 屏幕上的代码细节,象征 token 级推理控制与算法优化

    让AI选择快答或长推理,ADaPT将70亿参数模型的平均输出缩短约三分之一

    2026-07-02