Frontis 开源模型与实验工具,让 AI 学习改进机器学习程序 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

Frontis 开源模型与实验工具,让 AI 学习改进机器学习程序

2026-07-31 / 共 4,196 字

FrontisAI / OpenRSI

7 月 31 日,来自 Horizon Research、Frontis.AI 和清华大学的团队在 arXiv 上传了一篇论文,同时发布了模型权重、训练数据、评估代码及沙箱执行方案。论文介绍的是一个 35B 参数的模型 Frontis-MA1。其与 OpenMLE-Evo-Max 组成的系统在 MLE-Bench Lite 上跑出 71.21% 的 Medal Average;论文为任务执行规定单张 RTX 4090、12GB VRAM 上限和每任务 12 小时预算,这不等于全部模型推理与搜索都只用这一张卡。该成绩超过了 GPT-5.5 + Codex 的 68.18%,逼近 GPT-5.6 Sol 和 2.8T Kimi K3 的 72.73%。

Frontis-MA1 还提供了研究「递归自我改进」(Recursive Self-Improvement, RSI)的实验工具:训练一个能够改进程序的模型,再测量它与搜索框架各自带来的收益。

就在同一周,Lilian Weng——OpenAI 前安全 VP、Thinking Machines 联合创始人——宣布重返 OpenAI,专门领导递归自我改进研究。OpenAI 在其 2026 年 6 月的治理蓝图中将 RSI 称为「未来十年可能最具后果的前沿安全问题」。两个事件平行发生,反映出不同团队正在投入 AI 改进 AI 的研究,但研究范围和目标仍有差别。

团队先研究机器学习工程中的程序改进

RSI 的概念历史很长。I.J. Good 在 1965 年提出,一台超智能机器可以设计出比自己更聪明的机器,触发「智能爆炸」。Eliezer Yudkowsky 在 2008 年正式命名了这个反馈循环。但直到最近,RSI 的具体形态一直模糊:AI 直接改写自己的权重?改进训练代码?优化搜索策略?

Frontis 团队选择了一个具体得多的切入点:机器学习工程(MLE)。让 AI 系统去完成人类的 ML 工作——检查数据、提出算法、运行实验、诊断失败、决定下一步算力该花在哪里。MLE-Bench Lite 提供了 22 个真实 Kaggle 竞赛任务作为测试场。这个选择很务实:MLE 有确定性的执行反馈(代码要么跑通要么报错,模型要么达到某个准确率要么没有),有可比较的指标,而且工作流程本身就是迭代式的。

论文提出了一个机制阶梯来定位自己的工作:L1 是普通的进化(程序变异,改进器不动);L2 是自进化(经验流回搜索);L3 是元进化(改进器本身被训练,即本文的工作);L4 才是完全的递归自我改进(每个系统改进生产后续系统的流程)。Frontis-MA1 明确位于 L3 层级,没有声称自己已经实现 L4。

模型学习生成、改进、调试和重组程序

Frontis-MA1 的核心设计思路是将代码演化拆解为四个可训练的原子操作:Draft(从零生成程序)、Improve(利用执行反馈优化父程序)、Debug(修复失败的程序)、Crossover(重组两个父程序的特征)。在一个任务中,这些操作会被调用数百到数千次——生成候选方案、执行、根据沙箱反馈决定下一步。

关键在于,这四个操作在后训练和推理阶段是同一套接口。训练阶段,模型使用经执行验证的数据进行 SFT,并通过在线 RL 学习如何更好地执行 Draft、Improve、Debug 和 Crossover;推理阶段,OpenMLE-Evo 搜索框架将这些操作组合成长周期进化搜索。论文将这种设计称为「学习与进化的单循环耦合」,使模型学到的改进操作能被搜索框架直接调用。

训练数据隔离是论文反复强调的工程细节。所有 SFT 和 RL 数据都经过了与评估基准的精确去重;MLE-Bench 相关的竞赛在 OpenMLE-Gym 的任务构建阶段就被排除在外。SFT 语料包含 26,259 个经过执行验证的样本,其中 Draft 占了 74%,Debug 占 16.5%,Improve 占 6.6%,Crossover 占 2.8%。RL 阶段使用 16 prompts × 16 samples 的 rollout 配置,采用 GSPO 训练,Draft/Improve/Debug/Crossover 的采样概率为 0.50/0.17/0.17/0.16,共记录了 221 个 RL 策略更新步骤。

后训练将成绩提高至 60.61%,更换搜索系统后达 71.21%

论文的实验设计值得注意:它将模型增益和搜索框架增益做了受控分离。

在相同的 OpenMLE-Evo 搜索框架下,仅将基础模型 Qwen3.6-35B-A3B 替换为训练后的 Frontis-MA1-35B,Medal Average 从 39.39% 提升到 60.61%,Human Rank 从 0.5828 提升到 0.7647。在这一受控对比中,后训练对应 21.22 个百分点的提升。

在这个基础上,加入 OpenMLE-Evo-Max(使用跨任务经验先验和异步多 GPU 并行搜索),总分达到 71.21%。需要明确的是,Evo-Max 的增益来自搜索系统的变化,而非模型能力的进一步提升。项目 README 明确标注了这一区别,并警告不要将 Evo-Max 的结果解读为「纯模型增益」。

搜索框架本身也带来了独立增益。在多个模型家族上,OpenMLE-Evo 的表现一致优于通用的 Claude Code 或 Codex 框架:Kimi K2.6 从 Claude Code 下的 59.09% 提升到 OpenMLE-Evo 下的 66.67%;MiniMax M3 从 Codex 下的 54.55% 提升到 Evo 下的 59.09%。这为搜索策略可用于不同模型提供了证据,但结论仍限于论文测试的模型和任务。

在 held-out 的 NatureBench Lite 上,论文进一步验证了迁移能力:固定搜索框架、仅切换模型,Match-SOTA 从 50% 提升到 70%;固定模型、仅切换搜索框架,Match-SOTA 从 20% 提升到 50%。五个模态组的性能均有改善,没有任何一组出现奖牌率下降。

Gym 提供任务,ERL 训练操作,Evo 执行搜索

三个组件分别承担任务构建、训练和搜索。OpenMLE-Gym 提供了 5,758 个经过质量门控的可执行任务,来源包括人工精选的基准任务(156 个)、Kaggle 数据集任务(3,362 个)和 Kaggle 竞赛任务(2,240 个)。每个任务都经过五个维度的语义质量过滤:任务有效性、数据充分性、原始数据使用、任务复杂度和数据质量。

OpenMLE-ERL 负责训练。RL 阶段有几项具体安排。它不使用标准的 GRPO 式组归一化信号,而是采用基于熵的优势函数,将大得多的学习信号分配给 rollout 组中的最佳候选方案——论文显示这使上尾信号强度提高了 4 倍。奖励归一化使用自适应边界而非固定极值,为的是在当前策略实际能达到的分数区域内保持区分度。父程序选择也不是贪婪地只选最高分节点,而是通过一个结合了父程序得分、子程序得分方差和访问冷却系数的三项效用函数来平衡利用与探索。

OpenMLE-Evo 负责长周期搜索。与原始 AIRA-Evo 的「自由形式历史记录」不同,OpenMLE-Evo 为每个节点存储结构化经验卡片,在父程序选择时同时考虑质量、进步和方案新颖性三个维度——而不只是贪心地扩展当前最高分节点。记忆合成也改为按需触发:只在 Improve、Crossover 或 Debug 操作实际选中某个节点时才调用 LLM 生成摘要,论文称这使 token 消耗减少了 41.7%。

实验限于 MLE 沙箱,尚未解决开放环境安全问题

论文在附录 B.6 中提到了「reward hacking 的检测与预防」,但正文并未展开安全讨论。其测试范围需要明确:Frontis-MA1 的工作环境是受控的 MLE 沙箱,代码执行有隔离,评估指标有确切定义,与「开放环境中的递归自我改进」有本质区别。

但论文的局限性和未来工作部分承认了几个关键缺口:当前系统仅在 MLE 领域验证;32K token 的上下文窗口对更复杂的工程任务可能不够;任务执行中 RTX 4090 的 12GB 显存上限会限制被测试程序的模型与批处理配置,不能直接当作 Frontis-MA1 本身的部署显存需求;MLE-Bench Lite 只有 22 个任务,与完整版 75 个任务的可比性需要说明。

如果把 Frontis-MA1 放在更大的产业背景下看,它恰好出现在一个值得关注的节点上。同一周,TechCrunch 和多家媒体报道了 Lilian Weng 重返 OpenAI 领导 RSI 研究的消息。Weng 在离开 Thinking Machines 前几周刚发表了一篇名为「Harness Engineering for Self-Improvement」的技术综述,核心论点与 Frontis 团队的工作方向高度一致:近期的 RSI 路径不在于模型改写自己的权重,而在于改进围绕模型的工具与执行流程——工具调用、规划循环、文件系统持久记忆、子 Agent 调度。这与 Frontis-MA1 将后训练和搜索框架耦合在同一原子操作接口上的思路形成呼应。

Weng 的综述中还列举了 RSI 的六个结构性挑战:评估器太弱、上下文管理、正向结果偏差、多样性坍缩、reward hacking(她引用的研究表明,在能力较强的基座模型上,四轮自我改进后就会观察到这种行为),以及短期 benchmark 表现与长期工程质量之间的错配。她的核心建议是:评估器和权限控制层必须位于自我改进循环之外——如果系统能修改自己的评估器,它就能学会欺骗评估器。

Frontis-MA1 通过开源整个技术栈,为研究社区提供了可用于进一步测试安全问题的实验工具。但论文本身并未深入探讨这些安全问题——它将自己的边界清楚地划在「MLE 领域的元进化」,而不是泛化到「开放领域的递归自我改进」。

还需验证更大模型、更多领域和长期研究质量

Frontis-MA1 的工作留下了一些明确的后续问题。首先是扩展性:论文在 35B 和 30B 两种规模上验证了后训练增益的可复现性,但尚不清楚更大规模的基座模型是否也能获得同比例提升。其次是领域泛化:NatureBench Lite 上的迁移证据是有力的初步信号,但从「Kaggle 竞赛型 MLE」到「开放科学 AutoResearch」之间还有巨大的差距。论文承认,目前的工作负载仍然以分类和回归为主(合计占任务的 87%)。

另一个问题涉及评估标准:当改进器本身被训练后,谁来判断改进器是否在朝着正确的方向改进?Frontis-MA1 在沙箱里有一个确定的评估函数——Kaggle 排行榜指标。但在真实世界的 AI 研究中,评估标准本身往往是模糊的、有争议的,甚至是研究中需要被重新定义的对象。这是从 L3(元进化)走向 L4(RSI)仍需解决的问题之一。

来源

  • Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering · arXiv
  • OpenRSI GitHub Repository · FrontisAI
  • OpenRSI Project Page · FrontisAI
  • Frontis-MA1 HuggingFace Collection · HuggingFace
  • OpenAI's Safety Architect Lilian Weng Returns With a Single Mission: Making AI Improve Itself · Tech Times
  • Thinking Machines co-founder Lilian Weng left the company citing health reasons, then joined OpenAI · TechCrunch

评论

登录后即可参与评论。

加载评论中…

相关文章

  • AI4AI-Bench 十项任务的算法、起始模型与最终评估指标总览

    RSI 算法改进评测:AI 改写训练代码,超四成结果不如原始方案

    2026-09-08

  • METR 在 NanoGPT 优化实验中比较累计支出、累计提速和支出翻倍带来的新增收益

    递归自我改进(RSI):模型变强,研发为何未必持续加速

    2026-09-08

  • TMax 在 Terminal-Bench 2.0 上的表现:TMax-9B 与 TMax-27B 在参数规模-性能帕累托前沿上显著领先同规模开源模型

    华盛顿大学与 Allen AI 开源 TMax 训练方案,9B 模型终端基准得分达 27.2%

    2026-06-25

  • Agent harness 结构图:模型位于中心,周围环绕着上下文注入、控制流、动作执行、持久化和观察层。
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

编程 AI 的高分有多少来自模型?工具和运行框架也会改变成绩

2026-07-11

  • EFT 方法动画示意图:将进化搜索轨迹转化为监督信号,训练 LLM 学会跨任务进化解

    研究者用搜索记录微调小模型,提升数学与编程优化任务表现

    2026-07-01

  • GRPO 如何训练推理模型,DAPO 和 Dr. GRPO 又改进了什么

    GRPO 如何训练推理模型,DAPO 和 Dr. GRPO 又改进了什么

    2026-06-20