arXiv · cs.LG· Zhuguanyu Wu, Congjia Chen, Ruihao Gong, Yang Yong, Shiqiao Gu, Yi Xu, Xianglong Liu·· 3 小时前
Geo-FSRL:为少步流模型强化学习优化随机策略几何
Optimizing Stochastic Policy Geometry for Few-Step Flow Reinforcement Learning
AI 导读
研究者提出 Geo-FSRL,通过最小化条件 KL 散度的选择原则,在保持系数的各向同性高斯转移族中推导出唯一闭式最优策略,并给出闭式策略梯度与 KL 权重。该方法在原始少步调度上训练、推理时保留确定性求解器,在 4 步设置下于图像和视频生成模型上最终奖励分数均高于 Flow-GRPO 和 Flow-CPS。
来源:arXiv · cs.LG · arxiv.org