跳到正文
arXiv · cs.AI· Jinmei Liu, Haoru Li, Zhenhong Sun, Chaofeng Chen, Yatao Bian, Bo Wang, Daoyi Dong, Chunlin Chen, Zhi Wang·· 5 小时前

DRIFT:缓解强化微调中的多样性坍缩,提升图像生成多样性

Beyond the Dirac Delta: Mitigating Diversity Collapse in Reinforcement Fine-Tuning for Versatile Image Generation

AI 导读

针对强化微调中策略坍缩为 Dirac delta 分布的多样性坍缩问题,研究者提出 DRIFT 框架,从采样、提示词和优化三个层面激励输出多样性。实验显示 DRIFT 在任务对齐与生成多样性上取得明显帕累托优势:对齐相同时多样性提升 3.88%~81.42%,多样性相同时对齐提升 14.38%~56.45%。代码已开源。

来源:arXiv · cs.AI · arxiv.org