跳到正文
arXiv · cs.LG· Aaron Zorel, Guy Van den Broeck, Aditya Grover, Daniel Israel·· 3 小时前

投机扩散的两种权衡:扩散努力与投机解码宽松度如何共同影响速度-质量帕累托前沿

Speculative Diffusion is a Tale of Two Tradeoffs

AI 导读

研究联合调节扩散努力与投机解码接受宽松度两个参数,探索投机扩散可达到的完整速度-质量帕累托前沿。实验显示,同时变化这两个参数相比单步扩散起草能扩展帕累托前沿,即在不牺牲验证器分布无损性的传统投机解码之外,还可通过更宽松的接受准则生成有损样本以换取更快速度。

来源:arXiv · cs.LG · arxiv.org