自动科研系统 FARS 产出 166 篇论文,人类评审均分 3.17 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

自动科研系统 FARS 产出 166 篇论文,人类评审均分 3.17

2026-06-30 / 共 1,946 字

6 月 30 日,新加坡 AI 创业公司 Analemma 在 arXiv 发布《FARS: A Fully Automated Research System Deployed at Scale》,报告自动科研系统FARS的公开运行及人类评审结果。系统能连续产出论文,但专家评分显示,研究贡献、实验范围和诚信问题仍限制着质量。

早期报道曾引用斯坦福Agentic Reviewer对100篇FARS论文给出的平均5.05分,并与ICLR 2026投稿均分4.21,以及报道用作录用参考的5.39分作比较。这些数字的样本和含义不同,不能直接视为录用率。新报告中,88名入选评审者有55人提交了有效评审:140篇论文共获得282份评审,评分平均 3.17分(满分10分),中位数为2分。17.7%的评审给出6分,未出现8分或更高评分;6分是本次量表的接受档位,不代表论文已获会议录用。

166 篇论文覆盖 67 个话题,中间产物一并公开

FARS 是一个端到端多 Agent 系统,由四个专用 Agent 协作完成科研全流程:Ideation(构思)负责文献检索和假设生成,Planning(规划)将假设拆成明确的实验计划与验证要求,Experiment(实验)在 160 块 NVIDIA GPU 集群上执行验证,Writing(写作)从实验证据中生成论文。

首次公开部署持续了 417 小时,消耗 216 亿 tokens,总成本约 18.6 万美元(含 GPU 和 API 费用),折合每篇论文约 1,120 美元。系统从 9 个种子研究方向出发,自主拓展到 67 个 AI/ML 子领域,共产出 166 篇完整论文——其中 94 篇属于自主探索的新兴方向,如 AI 安全与对齐(13 篇)、视觉语言模型(7 篇)、代码生成(6 篇)。

FARS此次部署的特点是公开完整的中间产物:假设文档、实验计划、代码、日志、结果数据以及论文草稿全部通过 GitLab 实时公开。这些材料组成了可审计的语料库,成功案例之外,失败、较弱和负面的结果也得到保留。

人类评分偏低,主要问题集中在贡献与证据

人类评分也提醒人们,自动评审分数不能直接替代专家判断。

新报告另用斯坦福Agentic Reviewer评估了165篇FARS论文,论文均分为5.00;人类评审覆盖的140篇论文,按篇汇总均分为3.23,按全部评审计算则为3.17。两组采用相同数值量表,但覆盖范围并不完全一致,人类评审还包含针对短论文的要求和诚信审计。入选的88名评审者均有同行评审经验,约82%评审过20篇以上论文。这组结果说明该自动评审器的评分更宽松,尚不能推广为所有AI评审的统一偏差。

在维度分析中,贡献度(Contribution)得分最低,均值仅 2.00(满分 4 分),且从未在任何评审中获得满分。论文呈现(Presentation)却相对不错,均值 2.46,48.9% 的评审给出了 3 分。贡献度与总分的 Pearson 相关系数高达 0.743,远超呈现(0.451)和严谨性(0.652),提示研究贡献和支撑证据,比单纯润色更能解释本次评分差异。

诚信审计同样反映出质量的梯度分布:16.7% 的评审报告了诚信问题(虚构引用、不可复现结果、虚假新颖性等),在评分≥6的评审中,这一比例为2.0%;评分为0的评审中则为43.5%。这说明较低评分更常伴随可识别的诚信问题,而非仅仅呈现较差。

先在可通过代码检验的 AI 研究中部署

FARS首先选择AI研究作为部署领域,与任务能否通过计算检验有关。AI 研究的许多假设可以通过代码执行来验证,实验结果可以在标准基准上量化比较,领域内的论文、代码和数据大多公开可用。这些条件使AI研究适合用于测试自动科研系统。

但人类评审的结果也清楚划出了当前能力的边界。评审发现的三大系统性失败模式——实验范围过窄、方法论局限、诚信问题——恰恰指向了人类科学家做研究时最依赖的那些能力:判断什么实验才「够」、在方法论的灰色地带做出正确取舍、诚实地面对每一个数字的来源。

Analemma 团队在论文中坦率地承认了这些局限。报告重点呈现规模化运行后的产出分布,而未声称系统能够替代人类科学家。它也提供了一套可参考的评估方法——完整公开的中间产物、结构化的诚信审计、人机评审的对照分析。

论文生成提速后,评审能力如何跟上

FARS 已经证明全自动科研产线在吞吐量上可行:每 2.5 小时一篇论文,每篇成本约 1,120 美元。但在已接受人类评审的论文中,多数评分仍未达到本次量表的接受档位。生成速度与研究质量,需要分别衡量。

当自动系统能以这一速度产出论文,学术出版也需要考虑如何安排审查。论文生成成本约为千美元,并不包含外部专家核查方法、代码与实验记录的全部投入。FARS的公开实验提供了评估这种负担的材料,后续还需衡量每篇论文的复核时间,以及系统能否减少反复出现的证据和诚信缺陷。

来源

  • FARS: A Fully Automated Research System Deployed at Scale · arXiv
  • Introducing FARS · Analemma
  • FARS — Fully Automated Research System · Analemma
  • FARS Goes Crazy: 228 Hours of Non-Stop Work to Produce 100 Papers · 36Kr

评论

登录后即可参与评论。

加载评论中…

相关文章

  • 世界地图,显示 Terminal-Bench-Science 提案与实现作者的全球地理分布

    斯坦福发布科研工作流基准,9 个模型中最高解决率为 30%

    2026-08-28

  • AI 部署中演示到生产的审核鸿沟概念图

    72 组金融 AI 工作流测试:演示过关后,仍有近半未通过生产门槛

    2026-08-03

  • Google Research 发布的 Paper Assistant Tool 概念图,展示 AI 辅助学术论文审查的流程示意

    Google 论文助手为逾 4,700 篇投稿提供反馈,帮助作者查错补实验

    2026-06-28

  • 计算机屏幕上显示代码的编程场景,呼应 AI 编码智能体工程过程评估
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

AI 编程如何规划、测试和纠错?RigorBench 尝试评价开发过程

2026-07-09

  • Anthropic 透明中心(Transparency Hub)页面题图

    Anthropic 披露生物风险筛查失误,涉及供应商 1.33 亿次交互

    2026-08-25

  • 论文图 1:SWE-bench Verified 上各模型的解题率随时间上升,同时补丁臃肿比保持高位且与解题能力几乎不相关

    AI 代码通过测试后仍可能难审查,13 位研究者呼吁重视人机协作

    2026-08-17