合并模型、更新任务，在一次运行中持续搜索
Sakana AI 在 ICLR 2026 上发表的 AC/DC（Assessment Coevolving with Diverse Capabilities）框架，尝试在一次运行中持续寻找能力互补的大语言模型（LLM）。研究者先设定种子模型、种子任务和搜索规则，系统再自动合并模型、生成新任务、评估和筛选结果，减少每一轮都由人工设计并启动的工作。
扩展能力，是否必须训练一个更大的通用模型
前沿模型开发通常包括预训练、后训练（如 SFT 和 RLHF）以及评估。为了改进数学推理、代码生成或创意写作，研究者往往需要调整数据和训练目标，再启动实验。这需要大量投入，也让许多项目将目标集中在一个能力更全面的模型上。
论文从几个角度讨论了这种做法的局限。Kumar 等人（2025）提出的「断裂纠缠表示假说」认为，单一模型同时掌握大量不同能力时，内部表征可能冲突；Li 等人（2025）的研究则讨论了大模型推理的环境成本。此外，Stanley 和 Lehman 在《Why Greatness Cannot Be Planned》中提出：追求单一最优解，可能错过有价值的中间发现。
AC/DC 选择了另一条路径：保留多个专长不同的小模型，观察它们能否互相补足。它要优化的是这组模型合起来能解决多少问题。
一边筛选模型，一边更新用于评估的任务
AC/DC 的核心设计是一个双归档协同进化系统。它同时维护两个「档案库」：
模型归档（Model Archive）：存储通过进化搜索发现的高质量、多样化 LLM。AC/DC 从至少三个种子模型（同一基础架构的不同微调版本）出发，通过交叉（crossover）和变异（mutation）操作生成后代，再用 Dominated Novelty Search（DNS）算法筛选出在能力空间中互补的个体。
任务归档（Task Archive）：存储由「科学家 LLM」（一个较大的模型，如 Qwen2.5-72B-Instruct）生成的合成任务。每个任务包含问题-答案对和 Python 评分函数。任务通过难度自适应、新颖性过滤、反思验证三道关卡后进入归档，持续为模型进化提供不断升级的挑战。
两个归档在每个代际中相互驱动：模型在任务上接受评估，生成技能向量（skill vector）；任务根据模型群体的通过率调整难度方向；系统据此继续搜索模型组合，并尝试生成难度和类型不同的任务。作者希望这种相互调整支持开放式进化（open-endedness），但是否能长期持续改进，仍需更长的实验。
合并父模型参数，再扰动权重以探索新组合
AC/DC 的模型进化建立在演化模型合并（EvoMerge，Akiba et al. 2025）的基础上，但引入了专门针对 LLM 的操作：
交叉（Crossover）：随机采样两个父模型，使用任务向量（task vector）的加权线性插值进行合并。任务向量定义为父模型参数与基础模型参数之差：τ = θ_parent − θ_base。这一设计借鉴了 CycleQD（Kuroki et al. 2025）的做法，让合并后的模型继承两个父模型各自擅长的能力方向。
变异（Mutation）：对合并后模型权重矩阵的奇异值施加噪声扰动。具体而言，对每个权重矩阵 W 进行 SVD 分解 W = UΣV^T，然后扰动 Σ 中前 k 个奇异值再重构。这一操作在保留权重矩阵整体几何结构的同时，引入表征层面的变化，为能力空间探索提供了额外的多样性。
每代生成的后代在合成任务上被评估，其表现被编码为二进制的技能向量——每个维度对应一个任务是否被正确解决。随后，DNS 算法根据技能向量计算局部竞争适应度（local competition fitness），优先保留那些与更优解在行为空间中距离较远的个体，从而维护种群的多样性。
根据模型通过率出题，再检查新颖性和正确性
任务也会根据上一轮结果更新。科学家 LLM 从任务归档中采样一个父任务和三个随机参考任务，根据父任务的难度分布（由当前模型种群的平均通过率决定）确定适应方向——增加难度、降低难度，或生成全新变体。
生成的任务需经过三道筛选：
- 新颖性过滤：使用嵌入向量在全局归档中进行余弦相似度检索，由评判 LLM 判断新任务是否与已有任务足够不同。
- 反思与验证：科学家 LLM 先尝试自己解答生成的任务，执行评分函数，识别编译错误或逻辑问题并进行迭代修正。
- 最低标准过滤：移除当前所有模型都无法解答的任务，替换为其父任务。
在一项由三位专家评审的人类研究中，AC/DC 生成的合成任务达到了 97.8% 的正确率，68.9% 被判定为处于标准 benchmark 分布之外（OOD），37.8% 被评为具有创造性。作为对比，标准 benchmark 任务的 OOD 率仅为 10.2%，创造性评分仅 6.1%。
覆盖率只要求有一个模型答对，不代表能选对答案
AC/DC 使用 Coverage 而非传统准确率来衡量模型群体的能力。Coverage 定义为「至少有一个模型正确回答」的问题占总问题的比例。这一指标衡量互补性：一个模型不会的，另一个可能会。但它使用已知答案判断是否有人答对，实际用户仍需要从多个候选答案中选出正确的一个。
论文还引入了 Best-of-N（BoN）评估，即在标准 benchmark 上从多个候选答案中选出最佳答案，测试 Coverage 的提升能否转化为实际部署场景中的收益。
将一次模型合并，扩展为反复评估和筛选
模型合并并非新概念。从 Model Soups（Wortsman et al. 2022）的简单权重平均，到 Task Arithmetic（Ilharco et al. 2023）的任务向量加减，再到 TIES（Yadav et al. 2024）和 DARE（Yu et al. 2024）通过剪枝和符号一致性来减少合并冲突，这个领域在过去两年中发展迅速。
AC/DC 与这些方法的关键区别不在于合并算法本身，而在于合并的目的和运作方式：
- Model Soups / TIES / DARE 通常用于给定模型之间的合并，得到一个模型；它们本身不包含任务与模型共同更新的完整循环。
- EvoMerge（Sakana AI 的前序工作）将合并自动化，但仍然是目标驱动的：用户指定期望的能力，进化算法搜索最优合并配方。
- AC/DC 则将合并嵌入一个持续运行的开放式系统中。它不直接优化下游 benchmark 分数，而是在设定的种子、评分和搜索预算下产生能力组合，再由 DNS 筛选。开放式探索仍有规则和计算预算，并非完全没有目标或终点。
正如论文作者在 X 上所说：「AC/DC 选择模型不是因为它们平均得分高，而是因为它们解决了种群中其他模型无法解决的问题。」
小模型组合覆盖更多题目，单答案表现仍有差距
AC/DC 在 Qwen2、Qwen2.5、Qwen3 和 DeepSeek V1 四个模型家族上进行了实验，每种都从 7B（或 14B）参数的基础模型出发。主要发现包括：
Coverage 提升：在 N=8 配置下，AC/DC 种群相对于各模型家族的大模型基线，Coverage 平均提高 10.19 个百分点。以 Qwen2.5 为例，N=3 配置下使用仅 29% 的参数即比 72B 模型高 3.85 个百分点，N=8 配置下差距为 9.78 个百分点。
Coverage 高于 GPT-4o：Qwen2.5 的 3 模型任务小组在 Coverage 上超越了 GPT-4o，这指的是所测题目的答案覆盖率；GPT-4o 参数量未公开，不能据此作精确参数比较。论文指出，这暗示着一个由小型、多样化、能力互补的模型组成的集体，可能拥有与单一前沿模型相当的知识覆盖。
持续进化：随着进化代数的增加，模型种群的 Coverage 和 MMLU/MMLU Pro 平均准确率持续提升，显示在这段实验运行中，改进仍在继续。
消融实验：DNS 质量-多样性选择和 gibberish 过滤器（用于剔除退化模型的最低标准过滤）是最关键的组件，单独移除它们分别导致 Coverage 下降 2.39 和 2.46 个百分点（N=3）。
对比先前的 QD 方法：AC/DC 在 N=8 时的 Coverage（69.00%）显著优于直接在 benchmark 数据集上优化的 DNS（66.48%）和 CycleQD（65.42%），其进化搜索没有直接使用这些 benchmark 优化；这不等于能够排除种子模型预训练时见过相关数据。论文的 BoN 评估则显示，选出一个答案后的平均成绩仍低于 GPT-4o，覆盖优势尚未全部转化为最终回答优势。
同时改进模型组合和任务分布，减少重复人工设置
AC/DC 展示了一种可继续研究的开发方式：把模型组合和任务更新放进同一轮搜索，减少逐次设计实验的工作。其价值可以从三个方面理解。
第一，从模型到种群。 当前范式下，每次训练的目标是产出一个「更好的模型」。AC/DC 的目标是产出一个「更好的模型集体」——一群能力互补的模型，在所测任务上合起来可能比单个模型答对更多题目。
第二，从静态数据到动态环境。 相较固定训练任务，AC/DC 会根据模型表现更新任务归档，改变后续评估的难度和题型。
第三，从目标驱动到开放式探索。 许多机器学习系统围绕预设目标优化。AC/DC 不直接优化下游 benchmark，而是按质量和能力差异筛选模型，保留未必平均得分最高、却能解决不同问题的个体。正如 Lehman 和 Stanley（2011）在《Abandoning Objectives》中倡导的：有时候，放弃目标比追求目标更能带来突破。
Sakana AI 团队将 AC/DC 定位为「离 LLM 开发新范式更近一步」——在这个新范式中，现有模型不再是终点，而是通往更强大模型的「垫脚石」。这让人联想到 Clune（2020）提出的 AI-GA（AI-Generating Algorithms）愿景：让算法自己产生更好的算法，而非由人类工程师一步步设计。
种子模型、任务生成器和答案选择限制了应用
AC/DC 也面临若干现实约束。合并效果依赖于种子模型的选择——微调过强、参数空间发散过大的模型合并效果不佳（论文在 Llama3 上的实验效果有限）。框架依赖一个固定的科学家 LLM 来生成任务，这限制了探索的上限。此外，AC/DC 主要通过交叉组合现有能力，而非让模型获得全新知识——这受限于种子模型的初始能力边界。
论文提出了几个值得关注的方向：用进化出的模型种群替代固定的科学家 LLM，实现递归自我改进；延长进化周期，研究长期开放式动态是否可持续；以及改进 BoN 选择方法，缩小集体模型与单体大模型在实际部署场景中的差距。
现有结果支持继续研究小模型之间的能力互补。下一步需要确认，这种搜索能否长期有效，以及答案选择的改进能否让覆盖率优势稳定体现在用户最终收到的回答上。
