跳到正文
arXiv · cs.LG· Eric Yeats, Aaron Jacobson, Darryl Hannan, Yiran Jia, Timothy Doster, Henry Kvinge, Scott Mahan·· 20 小时前

评分匹配与局部内在维度之间的联系

A Connection Between Score Matching and Local Intrinsic Dimension

AI 导读

研究发现局部内在维度(LID)是去噪评分匹配损失的下界,因此可直接用该损失作为 LID 估计器,无需多次前向传播或梯度计算。等价的隐式评分匹配损失也能通过 normal dimension 近似 LID,并与近期估计器 FLIPD 密切相关。在流形基准和 Stable Diffusion 3.5 上的实验显示,该方法在问题规模和量化程度提升时仍保持更高精度与更低内存占用。

来源:arXiv · cs.LG · arxiv.org