arXiv · cs.AI· Donghoon Ahn, Runqian Wang, Alexei A. Efros, Taesung Park, Yash Belhe·· 4 小时前
扩散模型的校正训练(Correction Training)
Correction Training for Diffusion Models
AI 导读
针对扩散模型因曝光偏差导致的误差累积问题,研究者提出一种校正步骤:校正器以基础模型预测为输入、以相同真值为目标训练,在采样时逐步精修去噪器的干净样本预测。该方法在 DiT、SiT 和 JiT 上显著提升无引导及无条件生成的 FID,性能可与 CFG 竞争,与 CFG 结合还能提升多样性并减少过饱和;通过将精修预测蒸馏回基础模型,可摊薄额外推理成本。
来源:arXiv · cs.AI · arxiv.org