arXiv · cs.CL· Roy Miles, Aysim Toker, Andreea-Maria Oncescu, Jiankang Deng, Ismail Elezi·· 2 小时前
扩散语言模型测试时扩展：用奖励引导的步骤拼接提升推理
Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching
AI 导读
研究者提出 Stitching Noisy Diffusion Thoughts，用掩码扩散语言模型低成本采样多条推理轨迹，再用现成的过程奖励模型（PRM）给每个中间步骤打分，并把跨轨迹的高质量步骤拼接成复合推理链，仅重算最终答案。该免训练框架在六项数学与代码任务上平均准确率最高提升 23.8%，相对 Dream、LLaDA 等扩散模型和 TiDAR 等统一架构延迟最多降低 1.8 倍。
来源：arXiv · cs.CL · arxiv.org