用一个模型承接多种图像生成任务
文生图、图像编辑、真实感增强、风格迁移,各项任务常由不同的专家模型完成。在实际部署中,同时维护和调用多个模型,会增加计算资源需求和系统管理成本。
6 月底,字节跳动 Seed 团队联合高校研究人员发布了 DanceOPD(On-Policy Generative Field Distillation),一个面向流匹配(Flow Matching)模型的生成场蒸馏框架。它将每个专家模型视为共享隐空间上的一个“速度场”,再让学生模型在自己的生成轨迹上向专家学习,将多种能力合并到同一模型中。
编辑与文生图的训练目标可能相互干扰
Stable Diffusion 3、Flux 等图像生成模型采用流匹配方法,通过从噪声到图像的连续变换完成生成。但把多种能力放进同一个模型时,不同任务的训练目标可能相互干扰。
具体来说,强化编辑能力可能损害文生图(T2I)的提示跟随质量,而局部编辑和全局编辑之间也可能互相干扰:前者要求精确保持画面中未编辑区域不变,后者则追求整体风格或结构的剧烈变换。常见方法各有代价:数据混合与联合训练可能削弱针对特定任务的监督、引发梯度冲突;参数空间融合(如权重平均)容易在能力之间取折中;推理时组合多个模型的分数,则仍需在部署时调用它们。
DanceOPD 将每个冻结的专家模型看作共享状态空间上的一个速度场(velocity field),描述当前图像状态应向哪个方向变化。训练时要决定由哪位专家指导、在学生生成过程的哪个位置查询,以及每条轨迹查询几次。
每个样本只向一位专家查询一个低噪声状态
DanceOPD 针对三类监督问题,采用了相应的训练设计:
目标场模糊。 如果对同一隐状态同时查询文生图和编辑专家,再平均它们的速度预测,监督方向可能不再对应明确的任务。DanceOPD 采用硬路由(hard routing),每个样本只分配给一个能力场,保留该任务的监督信号。
状态分布错配。 离策略蒸馏使用教师轨迹等预先生成的状态,但学生推理时未必会走到相同位置。DanceOPD 让学生先生成自己的 rollout 轨迹,再在其中查询教师。查询状态采用停止梯度(stop-gradient)处理,训练只更新该处的速度预测,不反向传播通过整条轨迹。
轨迹内查询相关。 同一条轨迹上的多个状态共享噪声种子、提示词和生成路径,密集查询可能让相关信号被重复计入。DanceOPD 每次只取一个接近最终图像、语义信息较丰富的低噪声状态(K=1),减少这种重复监督。
三项设计组成了训练目标:在一个停止梯度的学生轨迹状态上,用均方误差(MSE)匹配教师与学生的速度预测。主方法采用普通速度 MSE,无需额外的损失加权或对抗训练。
将无分类器引导信号一并蒸馏到学生模型
论文还把**无分类器引导(classifier-free guidance,CFG)**纳入同一框架。常规 CFG 分别计算有条件与无条件两个分支,再加权组合以增强提示跟随。DanceOPD 将它写成速度场 v_α = v_∅ + α(v_cond - v_∅),作为一种能力来源参与蒸馏。实验中,训练引导强度 α 与推理引导强度 β 的组合效果近似取决于二者乘积;最佳诊断得分为 5.833,此时 α=3.5、β=2,推理阶段仍保留引导。
把引导信号预先吸收到模型中,有望减少部署时对双分支计算的依赖。不过,论文中的最高成绩来自训练蒸馏与推理引导的配合,过强的引导也会降低成绩,仍需按质量和计算开销选择配置。
两组能力合并实验提高了编辑分数
论文测试了文生图与编辑合并、局部与全局编辑合并,以及真实感和 CFG 吸收。前两组结果如下:
T2I + 编辑组合:DanceOPD 在 GEditBench 上取得 5.347 分,比最佳复现的 OPD 基线高 8.1%,比编辑源模型高 8.5%;GenEval 总体指标 0.849,在保持强文生图能力的同时获得编辑能力。
局部 + 全局编辑组合:这组实验需要兼顾局部编辑的内容保留与全局编辑的大幅变换。DanceOPD 取得 5.498 分,比最佳竞争基线高 16.1%,比局部编辑源模型高 7.9%,GenEval 仍保持 0.848。
以下是 T2I + 编辑场景下各方法的对比,编辑指标采用 GEditBench-EN:
| 方法 | GEditBench-EN Avg ↑ | GenEval Overall ↑ | 结果说明 |
|---|---|---|---|
| 联合训练 | 4.617 | 0.808 | 两项成绩均低于 DanceOPD |
| 权重融合 | 0.344 | 0.836 | 保留较多文生图能力,编辑分数很低 |
| 离策略蒸馏 | 4.528 | 0.818 | 采用教师状态,两项成绩均较低 |
| DiffusionOPD | 4.947 | 0.833 | 优于所列离策略基线 |
| Flow-OPD | 4.854 | 0.814 | 两项成绩均低于 DanceOPD |
| DanceOPD | 5.347 | 0.849 | 两项成绩在所列方法中最高 |
消融实验也支持这些设计:硬路由的分数为 5.751,高于软融合 MSE 的 4.994;低噪声查询的 5.751 高于同一训练步数下的中、高噪声查询。单点查询 K=1 为 5.751,加权多点查询 K=4、K=16 分别为 5.330 和 5.127。在这些设置下,增加同一轨迹的监督点并未改善表现,选择在哪里、向谁查询教师同样影响训练结果。
合并专家能力有望减少部署时的模型切换
DanceOPD 对研究和部署各有启示:
研究层面,它把蒸馏用于能力组合:学生学习多个专家,在部分指标上超过单一能力来源,同时保留基础生成表现。语言模型领域也有在学生自生成序列上匹配教师的 on-policy 蒸馏方法,DanceOPD 则围绕视觉生成中的速度场,研究了监督位置和专家选择。
部署层面,如果多专家能力能稳定合并到一个学生模型,服务就有望减少任务间的模型切换和多套参数管理。文生图、局部编辑、全局编辑和风格变化可以由同一模型承接,对 API 服务和资源受限设备都有潜在价值;实际成本收益仍取决于学生规模和部署配置。
这项工作由字节跳动 Seed 与新加坡国立大学、马里兰大学、香港科技大学等机构的研究人员合作完成。当前方法要求教师具有兼容的状态空间和速度表示,实验中的能力来源采用同一骨干模型家族;跨架构模型的合并仍需要额外处理。
后续需要检验更复杂任务中的能力兼容性
DanceOPD 的结果说明,多能力训练需要仔细选择监督来源和生成状态,堆叠更多轨迹查询未必更有效。接下来,当一条指令同时要求多种能力、难以预先分到某个任务类别时,硬路由能否继续奏效,将影响这套方法的适用范围。
论文已上线 arXiv:2606.27377,代码开源在 worldbench/DanceOPD。

