arXiv · cs.LG· Yucheng Xie, Fu Feng, Ruixiao Shi, Jing Wang, Xin Geng, Yong Rui·· 3 小时前
Knowledge Diversion:面向可分解图像生成模型的新型预训练范式
Knowledge Diversion: A Novel Paradigm for Pre-training Decomposable Image Generation Models
AI 导读
研究者提出 Knowledge Diversion(KDiv),一种条件感知的预训练范式,用于学习可分解的图像生成模型。该方法在预训练前将随机初始化权重分解为秩一 Knowledge Units,并组织为 learngenes 与 tailors,通过连续条件感知路由把跨条件共享知识汇入 learngenes、把条件相关变化交给 tailors。
来源:arXiv · cs.LG · arxiv.org