Anthropic 公布 Claude 文本水印机制,检测 API 尚待推出 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Anthropic 公布 Claude 文本水印机制,检测 API 尚待推出

2026-08-17 / 共 3,083 字

Google DeepMind / Nature

8 月 15 日,Anthropic 在技术博客里介绍了 Claude 文本水印的工作方式。它改的只有一处:模型选择下一个词时,"随机性从哪来"。普通生成里,描述天气该用 "overcast" 还是 "grey" 这类不影响含义的低风险选词,由任意随机数决定;水印版改用一把密钥加上前几个词来决定。选词仍然随机、读者看不出差别,但持钥者事后能检查一段文本是否符合"Claude 用这把密钥生成"的规律,并据此评估 Claude 是否可能参与过写作。

这与从文风判断 AI 文本的方法不同。Pangram 这类检测服务会分析措辞等统计特征,例如 "this isn't [X], it's [Y]" 或 "quietly" 等表达;水印检测则检查生成时主动留下的信号。不过,检出水印仍不等于确定整段文字都由 AI 撰写。

水印通过密钥改变选词时使用的随机数

大语言模型逐词生成文本。每一步,模型在一组候选词里选一个;在"阴天"还是"灰蒙蒙"这种两种都对、含义几乎相同的低风险决策上,选谁通常由一个随机数决定。Claude 采用的水印(Google DeepMind 2024 年发表在《Nature》的 SynthID-Text)做的,就是把这个随机数的来源换掉:不再用任意随机数生成器,而是用密钥加前几个词来算出选谁。选词依旧随机,但词的序列从此与密钥相关,变得可验证。Anthropic 给的类比是掷骰子换成背圆周率——对玩家和胜负没有区别,但事后看到完整步数序列、又知道圆周率的人,能判断这局棋"是不是用了圆周率"。

这个设计的技术含义是"非失真"(non-distortionary)。SynthID-Text 在采样阶段用一个伪随机 g 函数给每个候选 token 打分,再通过多层"锦标赛采样"(tournament sampling)逐层两两淘汰,选出得分最高的 token——但它不会逼模型去选一个本来不会选的词。DeepMind 论文里的证据是:在 Gemini 上做了一次约 2000 万条回复的实况实验,水印版与无水印版的"点赞率"只差 0.01%、"点踩率"只差 0.02%,均不显著;在 Gemma 7B 上,30 层锦标赛采样带来的延迟增量只有 0.57%。Anthropic 因此声称水印"不影响输出的质量、创造性或可读性"。

润色和翻译也可能留下水印,代码则较难标记

这套机制的上限很明确。Anthropic 的原话是:水印只能回答"这段文本有多少可能是 Claude 参与写的"。它不能确认文本是人写的,也识别不了其他 AI 的输出——即便对方也用水印,用的也是另一把密钥,甚至可能是另一种方法。

可供选择的措辞越少,留下水印的空间也越小。凡是只有唯一正确答案的地方,水印就没有落脚点:写 "Principia" 后面必须是 "Mathematica",写 "2 + 2 =" 后面只能是 "4",这些位置水印不会介入。同理,代码因为绝大多数输出必须精确,几乎不带水印,只有注释这类可以随意措辞的地方才可打标;翻译则可能在整段文字中留下水印,因为译文措辞也由 Claude 选定。

这引出一个水印无法回避的边界:它检测的是与 Claude 生成过程相关的信号,不能直接确定整段文字的作者。轻度的修改通常不会完全抹掉水印,逐词重写则可能抹掉——但 Anthropic 自己也承认,一旦每个词都被换掉,"这段文本是否还算 AI 生成"就变成定义问题了。因此,水印可以提供 Claude 参与写作的线索,却不能据此划分人的贡献、模型的贡献和各自责任。

Google 已部署文本水印,OpenAI 尚未确认上线

各家模型公司的文本水印部署进度并不一致。Google 其实走在最前面:DeepMind 在 2024 年的《Nature》论文里就宣布 SynthID-Text 已在 Gemini 与 Gemini Advanced 上规模化部署,是已知最早的大规模生成式文本水印。Anthropic 这次做的事,是把竞争对手开源的这套方法拿来做合规落地——在模型层面覆盖 Claude 产品线(Claude、API、Claude Code、Cowork、Tag),并面向全球实施;老模型仍将按后文所述分批补上水印。

OpenAI 的公开进展主要在图像和音频。它公开的溯源能力覆盖图像(C2PA 元数据加 SynthID 水印)与音频(SynthID,7 月 31 日刚扩展到音频),并提供公开验证工具,但从未确认上线过文本水印。多家第三方评测在 8 月仍把"ChatGPT 文本水印"标为"未确认"。Meta、Microsoft、Black Forest Labs、Synthesia 等都已签署欧盟行为准则,但文本水印的具体落地进度多数未披露。

密钥也决定了谁能直接检查水印。Pangram 这类第三方可以独立地对任何文本做概率判断,Claude 水印的直接检测则依赖 Anthropic 持有的密钥。外部使用者将需要通过它计划“很快”推出的检测 API 等机制访问这项能力,开放范围仍待说明。

为遵守欧盟透明度要求,Anthropic 选择全球实施

Anthropic 说得直白:做这件事是为了遵守欧盟 AI 法案。2026 年 7 月,Anthropic 与约 190 家机构签署了《AI 生成内容透明度行为准则》;其背后的法律义务是《AI 法案》第 50 条(透明度义务),自 2026 年 8 月 2 日起适用,要求提供者以机器可读的方式标记 AI 生成内容。行为准则签署是自愿的,但第 50 条本身是强制义务,违规最高可处 1500 万欧元或全球年营业额 3% 的罚款(取高者)。

这项义务有域外效力:只要系统投放到欧盟市场,提供者、部署者、进口商、分销商无论在哪都要遵守。Anthropic 选择"全球适用"而非按地区分片,理由是"目前还没有持久的方式来按区域限定范围"。行为准则的技术口径比法律条文更细:多数内容需至少两种机器可读标记,但自由文本因为无法携带元数据,单一水印即可;200 token(约 150 词)以下的文本更是直接豁免水印要求,这也意味着不能把该规则理解为短文本都能被可靠检测。过渡期也留下了一个时间差:8 月 2 日前已投放市场的旧模型,标记与检测义务宽限到 12 月 2 日,水印检测互操作性则推迟到 2027 年 2 月 2 日——Anthropic 称会在未来数月陆续给老模型补上水印。

检测 API 尚未上线,改写仍会削弱水印

水印的价值最终取决于检测能不能可靠落地。Anthropic 的检测 API 仍是"很快推出"、细节待定。这项 API 本身也受行为准则约束:提供者原则上须免费提供检测机制,监管机构、执法部门、媒体、事实核查者、研究者须始终免费、无限制地访问;到 2027 年 2 月 2 日,各家水印检测机制还须实现互操作,让内容无需逐个跑各家的检测器即可被验证。DeepMind 论文则写明了这条路的脆弱点:生成式水印天然易受"窃取、伪造与擦除"攻击,也会被改写或转述削弱——这篇 2024 年的论文已经把规避方式列在限制里了。

两类检测方法都有自己的限制:文风检测会受到模型表达变化的影响,水印检测则可能受到改写、转述和擦除的影响。对用户和企业而言,需要校正的是预期:Claude 的水印是一项合规与溯源机制,不是一个能盖章定性的"AI 作弊检测器"。它最多说"Claude 可能参与过";至于一段被重度改写过的文字到底算人写的还是 AI 写的,水印给不出答案,因为这个问题本身就没有一个稳定的答案。

后续需要关注:检测 API 上线后,Anthropic 会公布怎样的假阳性/假阴性阈值;到 12 月 2 日的宽限期,OpenAI 与 Meta 会不会、以及以什么方式补上文本水印;以及"改写以去除水印"是否会成为一项标准化操作——如果是,来源证明在编辑密集的真实工作流里还剩多少价值,就值得重新评估了。

来源

  • How Claude's text watermark works · Anthropic
  • Anthropic shares more details about how Claude's new watermarks will work · TechCrunch
  • Anthropic says it will watermark text generated by its AI models · TechCrunch
  • Scalable watermarking for identifying large language model outputs · Nature
  • Advancing content provenance for a safer, more transparent AI ecosystem · OpenAI
  • Code of Practice on Transparency of AI-generated Content · European Commission
  • EU AI Act: Transparency Obligations Take Effect 2 August 2026 · Cooley
  • EU Finalises Transparency Rules for AI-Generated Content · Paul, Weiss

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Claude Science 产品界面截图,展示文献检索、审查 Agent 与科学报告工作台

    Anthropic 发布 Claude Science,把科研工具与计算接入同一工作台

    2026-06-30

  • Claude 标志显示在智能手机屏幕上,背景投射出多重 Claude 标志,象征 AI 技术在地缘政治裂痕中的流通与控制之争。

    FT:蚂蚁、字节员工经海外账号等途径使用 Claude,Anthropic 加强排查

    2026-07-03

  • 智能手机屏幕上的 Claude 应用图标

    Claude 部分用户可能需提交证件与自拍,验证数据如何保存

    2026-06-28

AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact
Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

Anthropic 同日发布科学工作台 Claude Science 与 Sonnet 5 模型

2026-06-30

  • Tom's Hardware 报道中使用的 Claude 品牌配图

    Anthropic 称 Claude 撰写逾八成生产代码,整体研发速度尚未翻倍

    2026-08-25

  • Claude 品牌展台与 Think w/ Claude 标识,象征围绕 Anthropic 模型能力的商业与安全争议

    Anthropic 指控阿里关联人员大规模蒸馏 Claude,呼吁国会采取行动

    2026-06-27