跳到正文
arXiv · cs.LG· Andrei Jarca, Vlad Hondru, Florinel-Alin Croitoru, Radu Tudor Ionescu·· 2 小时前

EigDiff:用特征样本扩散将训练数据集缩小最多 14 倍

EigDiff: Eigensample Diffusion - or how to significantly reduce training dataset size with marginal performance variation?

AI 导读

EigDiff 通过预训练 CLIP 的潜空间做 PCA 得到特征向量,并以特征向量为参考点挑选代表性训练子集,从而在扩散模型训练中把数据量最多减少 14 倍、子集选择速度最多提升 1607 倍,性能仅有微小差异。该方法在多个数据集和多种扩散模型上进行了实验验证。

来源:arXiv · cs.LG · arxiv.org