arXiv · cs.LG· Yuanzhi Zhu, Eleftherios Tsonis, Simo Alami Chehboune, Xi Wang, St\'ephane Lathuili\`ere, Vicky Kalogeiton·· 2 小时前
DualHeads:用双分类器头实现奖励倾斜的少步扩散生成
DualHeads: Reward-tilted few-step diffusion made simple
AI 导读
DualHeads 在冻结的扩散骨干上挂两个轻量分类器头,仅用外部奖励评估和参考样本即可让少步扩散生成器对齐任务与人类偏好。奖励头学习同一提示词下哪些样本得分更高,参考头区分参考图与生成图,生成器最大化两者 logits 的加权和;头最优时该目标等价于对学习奖励做 KL 正则化最大化,权重比决定正则强度。
来源:arXiv · cs.LG · arxiv.org