arXiv · cs.LG· Yingheng Wang, Yaoqiang Li, Yaqin Wu, Junwen Bai, Jiatao Gu, Christopher De Sa, Volodymyr Kuleshov·· 2 小时前
LAP:通过局部外观净化改进扩散模型表征对齐
Purify Before You Align: Improving Representation Alignment for Diffusion Models
AI 导读
研究者提出局部外观净化(LAP),通过移除局部可预测内容并对齐残差,提升扩散模型生成质量,且无需改动训练或推理流程。在 ImageNet-256 上使用 SiT-B/2,LAP 将 MAE 的 FID 从 53.1 降至 42.3,并在 MAE、AIMv2、CLIP、DINOv2、DINOv3 五种预训练表征上均有提升。
来源:arXiv · cs.LG · arxiv.org