arXiv · cs.LG· Qinyu Li, Yee Whye Teh, Chris Holmes, Joel Jaskari·· 2 小时前
DiffPT:用扩散模型实现数据高效分类器预训练
Data-Efficient Classifier Pretraining Through Diffusion Models
AI 导读
研究者提出 DiffPT,一种用扩散建模对分类器骨干做预训练的简单方法,面向领域特定的小数据场景。在时间序列、自然图像基准和医学影像上的实验显示,DiffPT 在医学影像与时间序列的低数据区间优于自监督基线,而对比式预训练在 CIFAR-10 和 Tiny ImageNet 的低数据场景表现更好。
来源:arXiv · cs.LG · arxiv.org