RATIO 将科学灵感检索拆成三类,先测 AI 能否找到对的文献片段 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

RATIO 将科学灵感检索拆成三类,先测 AI 能否找到对的文献片段

2026-09-01 / 共 2,769 字

RATIO project

2026 年 9 月 1 日,希伯来大学与艾伦人工智能研究所的研究者更新了 RATIO 论文。它没有直接让 AI 生成科研点子,而是把更靠前的一步单独拿出来测:面对一句研究陈述,检索系统能否按指定意图找到真正能推动构思的文献片段。RATIO 将这种意图分成三类,论文同时给出约 302 万组查询—答案句对、共享候选库和配套检索模型。

这项工作的价值在于改变“相关”的定义。以往科学检索通常问一篇论文是否回答查询、是否应被引用,RATIO 则要求系统判断两句话之间能否完成一次具体的构思动作。它为文献驱动的 AI 科学家增加了一道可单独训练和评测的检索关卡,但还没有证明通过这道关卡就能提出更原创、更正确或更有价值的科研假设。

同一句研究陈述,要对应三种不同的下一步

RATIO 定义的三类任务分别是:Address(应对)寻找可解决查询中问题的方法或洞见;Broaden(拓展)寻找范围更广、抽象层级更高的表述;Specify(具体化)寻找一个具体案例、机制或实现。

论文用“强化学习训练的大语言模型出现奖励投机”作示意。Address 可以寻找奖励模型集成之类的缓解方法;Broaden 可以把它提升到古德哈特定律;Specify 则可寻找推荐系统通过操纵互动指标的具体案例。三者可能都对构思有用,却不一定与原查询共享大量词汇。只按主题相似度排序,结果可能全是奖励投机的综述、定义和评测,仍没有给研究者一个明确的下一步。

这也解释了 RATIO 与此前基准的差异。EMNLP 2024 的 LitSearch 用 597 个真实科研检索问题评估“找到哪篇论文”;ACL 2025 的 MIR 进一步评估“哪项既有方法可以启发当前研究问题”,主要在论文级使用摘要、引用关系和方法谱系。RATIO 把单位缩小到句子,并把启发关系拆成解决问题、向上抽象和向下具体化三种方向。它评测的不是通用搜索质量,而是查询与候选句是否形成指定关系。

论文连接词把 3.67 亿组相邻句压成 302 万组样本

人工逐条标注数百万组“灵感关系”成本过高,RATIO 因此利用作者写论文时留下的连接词做远程监督。若相邻两句是“模型容易过拟合。为解决这一问题,我们使用 dropout”,系统把前一句作为查询,移除“为解决这一问题”后,把后半句作为 Address 的正例。

研究者先从常见句首短语出发,再用规则和多个大模型扩展词表,形成 4252 个候选连接词。其中 809 个在语料中实际命中,并由两名自然语言处理专家复核。团队在约 3.666 亿组相邻句中挖出约 302 万组查询—正例:Specify 约 277.9 万组,Address 约 22.3 万组,Broaden 约 1.56 万组。三类数据高度不均衡,Broaden 只占约 0.5%,这也限制了三类结果的横向解读。

候选库并非只装正例。训练集约 1380 万条候选句中,目标关系正例约占 20%,其余来自对比、相似、推论等不属于三类任务的连接词。三种检索器共享同一个候选库,因此模型不能仅靠识别“这句话看起来像解决方案”完成任务,还要判断它是否解决当前查询中的具体问题。

时间切分隔离了论文原文,但没有隔离所有可能的捷径

训练集来自 2015 年至 2025 年 9 月,验证集来自 2025 年第四季度,测试集来自 2026 年 1 月 1 日至 5 月 5 日。论文称,测试论文晚于所有被评估基础模型的公开发布时间,以降低模型预训练时见过测试文本的可能性。发布前仓库中的切分代码还会按查询句—正例句去重,并检查不同集合之间没有相同论文 corpusid。

这能阻止同一篇论文或完全相同的句对跨集合出现,却不等于作者隔离:代码没有按作者身份切分,同一研究团队早期与后期论文的写作习惯仍可能同时出现在训练和测试中。论文也没有把候选库扩展为底层语料中的每一句话,而是加入大量同样由连接词挖出的困难负例。这个设计适合检验关系识别,但分数不能直接外推为开放网络中的真实文献搜索效果。

标签本身也带有一种结构性偏向。系统从作者显式写出“为解决这一问题”“更广泛地说”“例如”等位置学习,容易覆盖论文中被清楚写明的局部关系,却可能漏掉跨段落、跨章节或没有连接词的灵感关系。作者通过人工校准的大模型筛选银标测试集:最终保留 17579 个查询,其中 Specify 7327 个、Address 9668 个、Broaden 584 个。用于校准的专家样本只有每类 100 组,Broaden 的两个判断提示与专家标注的 F1 均为 0.76,低于另两类的 0.83 至 0.87。

特定关系微调提升明显,绝对命中率仍留下大块空白

在银标测试集上,表现最强的 ModernBERT-embed-large 经关系特定微调后,MRR@10 在 Specify 上从 26.7 升至 46.7,在 Address 上从 10.2 升至 24.5,在 Broaden 上从 17.3 升至 27.3。换算下来分别增加 20.0、14.3 和 10.0 个百分点;Address 的相对提升约 2.4 倍最大,但前十名中找回论文挖出的唯一正例的比例仍只有 40.0%。

这里的“唯一正例”会低估检索能力,因为候选库里可能存在其他有效答案。研究者又抽取每类 400 个查询,让经过人工校准的大模型判断基础模型和微调模型返回的前十名候选。按两个提示都同意才算有效的严格口径,微调模型至少找到一个有效候选的查询比例在 Specify 为 89.0%,Address 为 76.5%,Broaden 为 29.0%。Address 中还有 41.2% 的查询没有找回原正例,却找到了判断器接受的替代候选。

这组补充评测说明,模型学到的不只是复原相邻句,也能从其他论文找到符合指定关系的候选。不过评判器仍由大模型承担,且每类只抽查 400 个查询;“符合 Address、Broaden 或 Specify”也只是论文对 inspiration 的操作性定义。RATIO 没有让研究者或实验结果来验证这些候选是否真的促成更好的科学发现。

AI 科学家下一步要把检索分数接到科研结果上

对构建科研 Agent 的团队,RATIO 最直接的用途不是替换现有搜索引擎,而是把检索流程拆成可路由的工具:当 Agent 需要解决方案、上位概念或具体案例时,调用不同检索器,再把候选交给后续的假设生成和验证模块。九个关系特定模型、数据集和部分脚本提供了复现实验入口,代码仓库同时提醒仍在清理和补全文档;数据卡将数据许可标为 ODC-BY,模型卡使用 Apache-2.0,代码仓库使用 MIT 许可。

真正决定这套拆分能否进入科研工作流的下一项证据,是下游实验:在相同问题、生成模型和预算下,使用三类关系检索能否提高假设的新颖性、可行性、事实正确率或专家采纳率。还需要把候选范围扩展到完整文献库,并测试生物医学、材料等非计算机科学领域。RATIO 目前仍是未经同行评议的 arXiv 预印本;到这些证据出现之前,它更准确的定位是一把检验“是否找对灵感来源”的尺子,而不是衡量 AI 科学创造力的分数。

来源

  • RATIO: A Benchmark for Retrieval Across Typed Ideation Operations in Scientific Literature · arXiv
  • RATIO project page · Maayan Sharon and Tom Hope
  • RATIO temporal split pipeline at pre-release commit · GitHub
  • RATIO dataset card · Hugging Face
  • MIR: Methodology Inspiration Retrieval for Scientific Research Problems · Association for Computational Linguistics
  • LitSearch: A Retrieval Benchmark for Scientific Literature Search · Association for Computational Linguistics

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Benchmark Radar 的 Benchmark Frontier 页面,以发布时间、报告分数和有分数模型数展示不同评测记录

    Benchmark Radar 拼出 1283 条评测记录,也暴露近四成无分数

    2026-09-10

  • 屏幕上的代码细节,象征 token 级推理控制与算法优化

    让AI选择快答或长推理,ADaPT将70亿参数模型的平均输出缩短约三分之一

    2026-07-02

  • MineExplorer 基准中,AI Agent 在 Minecraft 开放世界中执行长程探索任务的示意图

    美团推出两项 AI 评测,分别考查复杂搜索和多步行动

    2026-07-24

  • IdeaAMBIG 缺陷分类构建流程图,从三类一级缺陷扩展到实施关键问题
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

会提问,却找不出该问什么:IdeaAMBIG 暴露科研 Agent 的上游缺口

2026-09-11

  • Theo Conjecture 系统架构图,展示从数学对象注册表到 LLM Agent、精确计算测试和人类评审的循环流程

    AI 系统协助证明 Erdős–Staton 图论猜想,手稿仍待同行评审

    2026-07-30

  • 论文图 1:14 个模型按约束偏差指标(CBI)分化为过度激活与欠激活两类群体

    AI 识别出题目里的限制条件后,仍可能在作答时忽略它

    2026-08-17