字节 Seed 提出 DanceOPD,将文生图和图像编辑能力蒸馏到同一模型 | AGIDaily
AGI Daily
资讯日报词条论文人物新创

字节 Seed 提出 DanceOPD,将文生图和图像编辑能力蒸馏到同一模型

2026-06-26 / 共 2,613 字

Pexels / Pixabay

用一个模型承接多种图像生成任务

文生图、图像编辑、真实感增强、风格迁移,各项任务常由不同的专家模型完成。在实际部署中,同时维护和调用多个模型,会增加计算资源需求和系统管理成本。

6 月底,字节跳动 Seed 团队联合高校研究人员发布了 DanceOPD(On-Policy Generative Field Distillation),一个面向流匹配(Flow Matching)模型的生成场蒸馏框架。它将每个专家模型视为共享隐空间上的一个“速度场”,再让学生模型在自己的生成轨迹上向专家学习,将多种能力合并到同一模型中。

编辑与文生图的训练目标可能相互干扰

Stable Diffusion 3、Flux 等图像生成模型采用流匹配方法,通过从噪声到图像的连续变换完成生成。但把多种能力放进同一个模型时,不同任务的训练目标可能相互干扰。

具体来说,强化编辑能力可能损害文生图(T2I)的提示跟随质量,而局部编辑和全局编辑之间也可能互相干扰:前者要求精确保持画面中未编辑区域不变,后者则追求整体风格或结构的剧烈变换。常见方法各有代价:数据混合与联合训练可能削弱针对特定任务的监督、引发梯度冲突;参数空间融合(如权重平均)容易在能力之间取折中;推理时组合多个模型的分数,则仍需在部署时调用它们。

DanceOPD 将每个冻结的专家模型看作共享状态空间上的一个速度场(velocity field),描述当前图像状态应向哪个方向变化。训练时要决定由哪位专家指导、在学生生成过程的哪个位置查询,以及每条轨迹查询几次。

每个样本只向一位专家查询一个低噪声状态

DanceOPD 针对三类监督问题,采用了相应的训练设计:

目标场模糊。 如果对同一隐状态同时查询文生图和编辑专家,再平均它们的速度预测,监督方向可能不再对应明确的任务。DanceOPD 采用硬路由(hard routing),每个样本只分配给一个能力场,保留该任务的监督信号。

状态分布错配。 离策略蒸馏使用教师轨迹等预先生成的状态,但学生推理时未必会走到相同位置。DanceOPD 让学生先生成自己的 rollout 轨迹,再在其中查询教师。查询状态采用停止梯度(stop-gradient)处理,训练只更新该处的速度预测,不反向传播通过整条轨迹。

轨迹内查询相关。 同一条轨迹上的多个状态共享噪声种子、提示词和生成路径,密集查询可能让相关信号被重复计入。DanceOPD 每次只取一个接近最终图像、语义信息较丰富的低噪声状态(K=1),减少这种重复监督。

三项设计组成了训练目标:在一个停止梯度的学生轨迹状态上,用均方误差(MSE)匹配教师与学生的速度预测。主方法采用普通速度 MSE,无需额外的损失加权或对抗训练。

将无分类器引导信号一并蒸馏到学生模型

论文还把**无分类器引导(classifier-free guidance,CFG)**纳入同一框架。常规 CFG 分别计算有条件与无条件两个分支,再加权组合以增强提示跟随。DanceOPD 将它写成速度场 v_α = v_∅ + α(v_cond - v_∅),作为一种能力来源参与蒸馏。实验中,训练引导强度 α 与推理引导强度 β 的组合效果近似取决于二者乘积;最佳诊断得分为 5.833,此时 α=3.5、β=2,推理阶段仍保留引导。

把引导信号预先吸收到模型中,有望减少部署时对双分支计算的依赖。不过,论文中的最高成绩来自训练蒸馏与推理引导的配合,过强的引导也会降低成绩,仍需按质量和计算开销选择配置。

两组能力合并实验提高了编辑分数

论文测试了文生图与编辑合并、局部与全局编辑合并,以及真实感和 CFG 吸收。前两组结果如下:

T2I + 编辑组合:DanceOPD 在 GEditBench 上取得 5.347 分,比最佳复现的 OPD 基线高 8.1%,比编辑源模型高 8.5%;GenEval 总体指标 0.849,在保持强文生图能力的同时获得编辑能力。

局部 + 全局编辑组合:这组实验需要兼顾局部编辑的内容保留与全局编辑的大幅变换。DanceOPD 取得 5.498 分,比最佳竞争基线高 16.1%,比局部编辑源模型高 7.9%,GenEval 仍保持 0.848。

以下是 T2I + 编辑场景下各方法的对比,编辑指标采用 GEditBench-EN:

方法 GEditBench-EN Avg ↑ GenEval Overall ↑ 结果说明
联合训练 4.617 0.808 两项成绩均低于 DanceOPD
权重融合 0.344 0.836 保留较多文生图能力,编辑分数很低
离策略蒸馏 4.528 0.818 采用教师状态,两项成绩均较低
DiffusionOPD 4.947 0.833 优于所列离策略基线
Flow-OPD 4.854 0.814 两项成绩均低于 DanceOPD
DanceOPD 5.347 0.849 两项成绩在所列方法中最高

消融实验也支持这些设计:硬路由的分数为 5.751,高于软融合 MSE 的 4.994;低噪声查询的 5.751 高于同一训练步数下的中、高噪声查询。单点查询 K=1 为 5.751,加权多点查询 K=4、K=16 分别为 5.330 和 5.127。在这些设置下,增加同一轨迹的监督点并未改善表现,选择在哪里、向谁查询教师同样影响训练结果。

合并专家能力有望减少部署时的模型切换

DanceOPD 对研究和部署各有启示:

研究层面,它把蒸馏用于能力组合:学生学习多个专家,在部分指标上超过单一能力来源,同时保留基础生成表现。语言模型领域也有在学生自生成序列上匹配教师的 on-policy 蒸馏方法,DanceOPD 则围绕视觉生成中的速度场,研究了监督位置和专家选择。

部署层面,如果多专家能力能稳定合并到一个学生模型,服务就有望减少任务间的模型切换和多套参数管理。文生图、局部编辑、全局编辑和风格变化可以由同一模型承接,对 API 服务和资源受限设备都有潜在价值;实际成本收益仍取决于学生规模和部署配置。

这项工作由字节跳动 Seed 与新加坡国立大学、马里兰大学、香港科技大学等机构的研究人员合作完成。当前方法要求教师具有兼容的状态空间和速度表示,实验中的能力来源采用同一骨干模型家族;跨架构模型的合并仍需要额外处理。

后续需要检验更复杂任务中的能力兼容性

DanceOPD 的结果说明,多能力训练需要仔细选择监督来源和生成状态,堆叠更多轨迹查询未必更有效。接下来,当一条指令同时要求多种能力、难以预先分到某个任务类别时,硬路由能否继续奏效,将影响这套方法的适用范围。

论文已上线 arXiv:2606.27377,代码开源在 worldbench/DanceOPD。

来源

  • DanceOPD: On-Policy Generative Field Distillation — Project Page
  • DanceOPD: On-Policy Generative Field Distillation — arXiv
  • DanceOPD Unifies T2I and Editing in a Single Flow Model — AI Weekly · AI Weekly
  • DanceOPD — Hugging Face Papers · Hugging Face
  • DanceOPD — GitHub
  • Top AI Models This Week (2026) — OrangeBot.AI · OrangeBot

评论

登录后即可参与评论。

加载评论中…

相关文章

  • Seedance 2.5 与 2.0 对比:30秒连续生成能力升级示意

    字节发布 Seedance 2.5,单次可生成 30 秒视频并按时间段编辑

    2026-07-31

  • RoboVAD 的五种机械臂任务与五类异常示例,包括抓取失败、碰撞、掉落和放置失败

    任务和故障一起换掉,RoboVAD 最佳微平均帧级 AUC 只有 67.4%

    2026-09-15

  • WhatWorkedBench 流程图:Agent 在固定预算内选择实验、提交完整配置得分表,再与穷举 CPU 参考结果比较

    科研 Agent 找到最优配置后,仍可能说不清什么有效

    2026-09-23

  • 数据中心服务器机架,象征 LLM 推理加速基础设施
AGI Daily跟踪世界 AI 进展
邮件栏目主题RSS
定制投稿招聘广告
关于MCPTermsContact

推理加速方法 JetSpec 用并行草稿树,在数学评测中实现 9.64 倍加速

2026-06-29

  • Springboards 推出的 Flint 发散模型视觉标识,代表一种打破 AI 回答同质化的新方法

    AI 的创意为何容易相似?Flint 尝试让模型给出更多不同答案

    2026-07-01

  • 扩散语言模型为何能加快文本生成?从 LLaDA 到 DiffusionGemma

    扩散语言模型为何能加快文本生成?从 LLaDA 到 DiffusionGemma

    2026-06-10