ReSeed仅调首步恢复蒸馏扩散多样性

Wenwu Tang等人提出后蒸馏方法ReSeed，用于恢复扩散模型蒸馏中丢失的输出多样性。其思路是：学生模型对同一提示词下不同初始噪声的响应差异，在第一步高噪声阶段损失最大；ReSeed只在学生模型第一步加一个seed-response bias adapter，并让该步速度对齐教师模型首段割线速度，学生模型其余权重和后续去噪步全部冻结。 据该研究称，在蒸馏后的4步FLUX.1-dev模型上，ReSeed新增可训练参数仅为基础模型的0.00196%，用8000个提示词—噪声对训练，不需要目标图像、感知损失或对抗损失。这些效果目前来自论文报告，尚待独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。