arXiv · cs.CL· Rodrigo Casado Noguerales, Bernhard Sch\"olkopf, Thomas Hofmann, Aran Raoufi·· 3 小时前
离散扩散模型究竟学到了什么？一篇论文用三个坐标系统一反向过程
What Does a Discrete Diffusion Model Learn? One Reverse Process in Three Coordinates
AI 导读
论文证明离散扩散模型中的 denoiser、bridge plug-in 与 concrete score 是同一反向过程的三种坐标表示，并给出精确换算关系。研究提出 Oracle Distance 恒等式，指出负 ELBO 等于数据熵加上反向噪声过程的路径 KL 散度。
来源：arXiv · cs.CL · arxiv.org