企业 AI 部署中最常见的叙事是「模型还不够强」。2026 年 7 月底上线 arXiv 的一篇论文给出了一个不同的答案：问题也许不在模型能力，而在我们对「什么是可投产」的定义本身。
这篇题为《The Checking Problem: What must be true before AI ships in a regulated firm》的论文，对四种模型家族、六种文档密集型金融工作流、三种工具配置进行了 72 组测试。每组配置分别接受两次评估：一次按「演示门槛」（单次正确即通过），一次按「生产门槛」（要求持续准确、可复现、可归因、置信度信号有信息量）。
72 组配置中，57 组通过了演示门槛，但只有 32 组通过了生产门槛——生存率 56.1%。 这意味着将近一半能在会议室演示中过关的 AI 工作流，实际上不该被部署。
两个门槛之间的鸿沟
论文定义的两套评估标准暴露了一个结构性盲区。
演示门槛很简单：跑一次，对一个案例，所有输出元素正确。这就是大多数 pilot 评估做的事——在 steering committee 面前演示一次成功运行。
生产门槛包含四项必须同时满足的条件：
- P1 准确率：所有案例、所有重复运行中，逐元素正确率不低于 0.99；
- P2 可复现性：相同输入在固定参数下返回相同输出；
- P3 可归因性：工具引用的来源段落确实存在于原文中（阈值 0.95）；
- P4 可检测性：工具输出的置信度能区分正确和错误（AUC 不低于 0.70，0.50 意味着置信度信号毫无信息量）。
演示门槛只测了 P1，且只测了一次、一个友好输入。P2、P3 和 P4 在 pilot 阶段在结构上不可见——这正是为什么大量项目通过了 steering committee 却最终无法上线。
论文还注明另外三项生产要求（人工签核记录、跨版本行为稳定性、数据边界合规）属于控制环境而非输出本身的属性，因此未纳入测量。换言之，论文给出的生产门槛已经是「宽松版」。
六种工作流，差距并非均匀分布
实验覆盖了六种工作流，从零容错的字段提取到高判断要求的跨文档对比：固定字段提取（W1）、实体筛查（W2）、跨文档对账（W3）、监管分类（W4）、带归因的摘要（W5）、多文档比较（W6）。W1 到 W4 使用合成文档（用确定性脚本生成，不涉及语言模型），W5 和 W6 使用真实 SEC EDGAR 备案文件。
使用合成文档而非真实文档是有意为之的方法学选择：真实文档的答案需要人工标注，而人工标注的错误是唯一无法被下游验证发现的错误类型。合成文档先生成答案，再围绕答案撰写文档，从而消除了这一隐患。论文明确声明合成文档比真实文档更「干净」，因此测得的性能是上界，真实差距只会更大。
不同工作流的表现差异巨大。固定字段提取已经「解决」了——准确率 1.000，跨所有模型和配置。实体筛查接近解决（0.983）。对账是最弱的工作流（0.799），监管分类居中（0.889）。
对账任务最清晰地展示了「演示陷阱」。某一个开源模型在对账上的准确率是 0.319，而在整个测试集上是 0.927。它能正确回答「账目是否对得上」这个二元问题，但几乎猜不出差异金额。一个只问「工具能不能发现对账差异」的演示，会认为这个工具正常工作；一个需要实际金额的生产流程，会发现它在猜。
在真实 SEC 备案文件上（W5 和 W6），情况更不乐观。两个工作流没有任何一个配置通过生产门槛的全部适用标准。可检测性是最常见的问题：W5 的置信度 AUC 均值仅 0.520——与随机猜测（0.50）几乎无异。这意味着在真实文档上，模型的「自信程度」与「是否正确」之间几乎没有任何关联。
审阅负担：被忽视的核心指标
论文的核心贡献不在于指出两个门槛的差距，而在于量化了这个差距的商业含义——审阅负担：生产环境中，人仍然需要检查多少比例的输出。
论文通过置信度分级策略来估算审阅负担：审核者按置信度从低到高排序输出项，优先检查最不确定的部分，直到累计误差落在可接受范围内。报告的审阅负担有两版：「先知」（oracle）版事后选择最优阈值，是任何人都无法达到的下界；「可操作」（operational）版在一半案例上校准、在另一半上验证，模拟真实部署中 pilot 样本校准后上线运行的场景。
关键数字：
- C1 Plain（直接执行任务）：操作审阅负担 100%。不输出置信度信号的工具，审核者没有分诊依据，只能全部检查。这不是建模 artifact——没有置信度就没有可用的分诊阈值。
- C2 Governed（引用来源 + 输出置信度 + 允许拒绝）：操作审阅负担降至 49%，在 20 组配置中的 17 组保持了误差容忍度。要求工具引用来源并声明置信度，让审核者安全跳过了一半的输出。
- C3 Verified（C2 + 自我复核）：操作审阅负担 44%，但延迟是 C1 的 2.3 倍，且是唯一无法在所有配置中保持误差容忍度的配置。
先知的估计低估了真实审阅负担约 2.7 倍。任何事后报告的审阅负担数字，都会严重低估部署的实际成本。
自检为什么不是银弹
论文最反直觉的发现是：从 C2 升级到 C3（增加自我复核），没有带来准确率提升——在 15 组可比较的配对中，4 组改善、11 组恶化，均值变化 -0.0168（统计不显著）。可复现性同样没有改善。
C3 唯一有帮助的是可归因性：平均归因率从 0.933 提升到 0.952。实践含义是：当风险在于审计追踪不可追溯时，自检值得其成本；当风险在于输出不一致或吞吐量不足时，自检不值得。
换言之，当前最「工程化」的方案并非最优方案。治理工具（来源引用 + 置信度）的效果远好于再加一层推理。
对实践的三个推论
论文在第七节提出了如果「审阅成本而非错误频率是部署的约束条件」会产生的三个推论：
对供应商的提问方式需要改变。 不应问「它有多准」，而应问「它知道自己什么时候错吗？它的引用可以追溯吗？」准确率是每个 pilot 都报告的指标；可检测性和可归因性几乎没有 pilot 报告，而它们才是决定审阅负担的因素。
Pilot 的验收标准需要升级。 当前大多数 pilot 只展示了四项生产属性中的一项（准确率）。同一个输入跑三次、检查引用段落是否存在，成本几乎为零，却能额外验证可复现性和可归因性两个属性。
经济可行性由审阅比率决定。 当检查输出的成本远低于生成输出（如字段提取），即使需要全面审查，工具仍然划算。当检查成本接近判断成本（如高判断力工作），工具不划算。这个结论本身不新鲜，但论文从可测量的审阅负担推导出它，而非仅仅断言。
限制与边界
论文对自己的边界保持坦诚：
验收门槛来自从业者预设，而非从监管文本推导，不构成标准。合成语料比生产数据干净，测得的差距是下界。三种配置不能穷尽所有部署设计。样本量有限（六种工作流、四种模型、三次重复），配置间比较的统计力不足。
论文在研究过程中发现并修正了两个测量缺陷，方向都是高估了性能：归因率最初基于转换后的文档而非原始备案文件测量，20% 的引用失败被证明是转换 artifact；审阅负担最初使用事后阈值且在没有置信度时利用了任意排序。两者均由内部检查而非外部审查发现。
还有一个无法消除的风险：答案键错误。在研究过程中，一个监管分类案例被错误标注——所有数值均低于法定阈值却被标注为符合，导致正确回答的模型被扣分，错误回答的模型反而看起来完美。这一问题是通过注意到一个不合理结果被发现的，而非被任何验证层捕捉。论文作者随后对所有可机械推导的答案键进行了独立重新计算。
论文的全部代码、提示词、语料和分析脚本已在 GitHub（dsauce/checking-problem）以 CC BY 4.0 许可公开。
这篇论文本身未经同行评议，来自独立研究者。但它提出的框架——将审阅负担作为 AI 部署的核心度量——为困扰企业的一个具体问题提供了可操作的分析工具。对 AI 工程师和产品负责人而言，最直接的行动项可能是：在下一次 pilot 评估中，让同一个输入跑三次，检查引用是否真实存在，然后计算实际操作条件下的审阅负担。这三个步骤加在一起的成本，远低于将一个不可投产的工具推上线的代价。