arXiv · cs.LG· Wen Ge, Lei Jiang, Lingyi Yang, Leonardo Roveri, Mingxuan Yi, Po-Yu Chen, Niels Cariou-Kotlarek, Francois Buet-Golfouse, Gaurav Mittal, Hao Ni·· 3 小时前
Sig-DEG:让扩散模型更快更轻的蒸馏方法
Sig-DEG for Distillation: Making Diffusion Models Faster and Lighter
AI 导读
Sig-DEG(Signature-based Differential Equation Generator)通过结合部分签名与循环结构来近似随机微分方程解,将预训练扩散模型的蒸馏建模为监督学习,在粗时间网格上匹配教师模型的精细轨迹。在图像和时间序列生成任务中,该方法实现了与教师模型相当的样本质量,推理速度提升最高达数百倍。
来源:arXiv · cs.LG · arxiv.org