研究者提出联合缩放与步感知critic改进DMD蒸馏
热点事件持续更新
研究者提出联合缩放与步感知critic改进DMD蒸馏
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Adobe等机构研究者提出联合缩放策略与步感知critic(STAC),用于改进分布匹配蒸馏(DMD)。研究指出,DMD蒸馏中若固定小型critic而增大teacher,会降低学生质量甚至导致训练崩溃;让critic与teacher同步扩展的联合缩放可避免崩溃。 据研究者称,联合缩放与STAC结合后,在ImageNet类条件图像生成、基于SDXL和FLUX.2的文生图以及基于Wan2.1的文生视频等少步蒸馏任务上均取得一致改进。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
更好的 Critic 对分布匹配蒸馏(DMD)至关重要报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv · cs.LG更好的 Critic 对分布匹配蒸馏(DMD)至关重要
研究指出,DMD 蒸馏中固定小型 critic 而增大 teacher 会降低学生质量甚至导致训练崩溃,让 critic 与 teacher 同步扩展的 joint scaling 可避免崩溃。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。