arXiv · cs.LG· Alberto Foresti, Mustapha Bounoua, Giulio Franzese, Luca Ambrogioni, Pietro Michiardi·· 20 小时前
离散扩散模型采样调度改进：WDS 在 MBPP 上用一半计算量达到均匀调度效果
Improved Sampling Schedules for Discrete Diffusion Models
AI 导读
研究通过热力学熵产生与动力学活性分析离散扩散模型的逆向过程，提出 Entropic Discrete Schedule（EDS）和 Wasserstein Discrete Schedule（WDS）两种采样调度。在语言建模实验中，WDS 在 MBPP 基准上仅用最多一半的计算量就达到与均匀调度相同的结果，代码已开源。
来源：arXiv · cs.LG · arxiv.org