arXiv · cs.AI· Yijia Fan, Ziqi Huang, Zhongang Cai, Yan Li, Zimo Wen, Wanqi Yin, Haiwen Diao, Ziwei Liu·· 5 小时前
UMM-Reflection:用交错强化学习让统一多模态模型学会原生反思
Learning Native Reflection in Unified Models with Interleaved Reinforcement Learning
AI 导读
UMM-Reflection 将强化学习应用于统一多模态模型的完整反思轨迹,让反思 token 与基于流的图像修订共享轨迹级优势、联合更新,推理时无需外部验证器。在 BAGEL 上,其 GenEval 较 SFT 提升 12.05 分,并迁移至 WISE(+10.97)、OneIG-Bench(+3.48)和 T2I-CompBench++(+4.63),这三个基准均未用于训练。
来源:arXiv · cs.AI · arxiv.org