2026 年 9 月 16 日,一篇发表于 Nature 的论文把 100 篇计算生物学论文送进同一条流水线:系统先找代码、建环境、运行教程,再把可复用步骤封装成 MCP 工具。最终只有 74 篇走到终点。它们产生了 599 个候选工具,其中 593 个通过自动验证;剩下 26 篇则卡在缺代码、缺数据或模型文件、依赖失败和脚本无法泛化。
这个结果让 Paper2Agent 的价值与边界同时变得具体。它不是给 PDF 加一个聊天窗口,而是试图把论文背后的方法编译成 Agent 可以调用、测试和重复执行的工件。它提高的是调用既有研究软件的可靠性;能否走到这一步,仍取决于作者有没有留下足够完整的科研工件。
它交付的不是回答,而是一组锁定的工具
普通论文问答系统主要从正文中检索信息,再由模型组织答案。Paper2Agent 多做了一层:它为每篇论文建立 MCP server,把研究产物拆成三类接口。工具层执行分析函数;资源层暴露论文、代码、补充材料和数据;提示层保存有顺序要求的工作流,例如单细胞分析中的质控、归一化、降维和聚类。
转换流程分为六步。系统先定位并下载代码仓库,为其建立隔离环境;随后扫描教程,运行教程并记录输入、输出、图表和隐含假设;再把教程里的分析步骤改写为参数化函数,为每个函数生成测试;最后只把通过测试的函数装进 MCP server。论文给出的通过条件包括生成预期文件、数值落在容差内,以及图表与参考输出匹配。连续失败的函数会被移出最终服务。
这套设计改变了 Agent 出错的位置。直接把仓库交给通用编码 Agent,模型每次都要重新判断入口、依赖和调用顺序;Paper2Agent 则在用户查询前完成这部分探索,把验证过的函数和环境固定下来。运行时 Agent 主要负责选工具、填参数和组织多步调用,而不是临场重写整套科研代码。
91.2% 衡量的是教程任务,不是任意论文复现
在 300 个由原仓库教程衍生的问题上,使用 Sonnet 4 的 Paper2Agent 平均准确率为 91.2%±1.6%。同一模型直接访问论文与仓库时为 80.3%±2.3%;把直接仓库基线升级到 Sonnet 4.6 后为 86.3%±1.1%。平均每题成本从 0.38 美元降到 0.20 美元,耗时从 4.3 分钟降到 1.6 分钟。
这些数字支持一个有限但有用的结论:对于已经有可执行教程和明确参考输出的仓库,把调用路径预先编译成工具,比让 Agent 每次重新摸索仓库更稳、更快。补充材料中的消融也指向测试环节:在 AlphaGenome 案例中,去掉测试与修复 Agent 后,教程题准确率从 98.7% 降到 69.3%,新问题准确率从 100% 降到 84.0%。
但 593/599 不是 593 次独立科学复现。工具测试沿用仓库示例数据和参考输出,能证明接口在指定环境中产生预期文件、数值或图表,不能单独证明原论文的研究结论成立。91.2% 的 300 道题同样来自教程,天然靠近工具已经覆盖的能力。论文还在 10 篇非生物计算论文的 42 个执行任务上得到 98.1%±0.8%,说明方法可以跨出计算生物学;10 篇的规模仍不足以支撑“任意论文都能转换”的说法。
失败的 26 篇,把责任推回论文发布环节
补充材料把 26 篇失败论文分成四类:34% 缺少可执行代码,31% 缺少数据或模型工件,23% 无法解决环境或依赖问题,12% 的脚本只适用于原始案例、不能抽成通用工具。换句话说,多 Agent 可以修路径、补依赖、改过时 API,却不能凭空补出未公开的数据和模型,也不能保证一次性分析脚本具备可复用接口。
这不是 Paper2Agent 才暴露的问题。2022 年一项针对 Harvard Dataverse 的研究执行了 9,078 个 R 文件:初次执行有 74% 未能无错完成;自动清理路径、编码和依赖后,这一比例仍为 56%。两个研究的样本、语言和成功定义不同,比例不能直接横比,但它们指向同一个约束:论文公开了代码,不等于第三方已经获得可执行工件。
因此,Paper2Agent 更像一场自动化验收。成功转换的论文获得一个自然语言入口;失败论文则暴露发布包缺了什么。对作者和期刊而言,真正提高“可 Agent 化”概率的动作并不神秘:提供能运行的教程、锁定依赖版本、公开所需数据与模型文件,并让脚本的输入输出脱离作者本机路径。Agent 可以替人执行验收,却无法替发布者完成这些基础工作。
可执行论文也会继承软件的维护与安全债务
把论文变成远程工具后,维护责任不会消失。上游 API、依赖和数据格式变化都会让已经通过的工具失效。作者在补充材料中提出用维护 Agent 定期重跑测试、尝试修复并把未解决问题交给人,但这仍是计划中的扩展,不是当前结果已经证明的能力。
执行第三方科研代码还把供应链风险带进了阅读过程。论文方案把工具放在受限沙箱中,并保留到原始代码的可追溯链接;它同时强调,生成的 MCP 仍受底层代码原许可证约束。项目自身以 MIT 许可开放,不代表它转换的每个仓库、数据集和模型都自动获得同样的再分发权限。
Paper2Agent 最值得保留的判断,不是“论文以后都能变成 Agent”,而是论文的交付标准正在从可阅读向可执行移动。下一步决定这条路线能否扩大的,不只是更强的模型,而是作者、期刊和代码仓库是否把环境、测试、数据许可与维护承诺也当成论文的一部分。100 篇里的 26 次失败,正是这套新标准第一次留下的缺件清单。

