跳到正文
arXiv · cs.AI· Ye Li, Jiahe Feng, Yuan Meng, Kangye Ji, Chen Tang, Jiajun Fan, Xinwan Wen, Jiawei Li, Wenwu Zhu, Shu-Tao Xia, Xin Wang, Zhi Wang·· 5 小时前

TS-DP:面向时变任务难度的强化学习投机解码扩散策略加速框架

TS-DP: Reinforcement Speculative Decoding For Temporal Adaptive Diffusion Policy Acceleration

AI 导读

TS-DP 是首个将投机解码用于 Diffusion Policy 的框架,通过蒸馏 Transformer drafter 替代高成本去噪调用,并用 RL 调度器按任务难度动态调整投机参数。仿真中实现最高 4.17x NFE 降低和 3.2x 实际耗时加速,草稿接受率超 85%;真实实验 NFE 降低 3.8x,传送带任务成功率提升 23%,推理频率达 26 Hz。代码已开源。

来源:arXiv · cs.AI · arxiv.org