研究：扩散模型秩约束泛化取决于数据维度

一项新研究指出，扩散模型去噪分数匹配中，对分数网络施加秩约束能否改善泛化，取决于样本量和数据维度。在三层网络与嵌入球面数据的实验中，提高秩可降低训练误差，但测试误差变化不定。 作者 Anand Jerry George 与 Nicolas Macris 针对低维子空间高斯数据，用随机特征模型推导出最优秩约束估计器，并给出训练与测试误差的渐近精确极限，将数据子空间正交补的维度识别为自然秩阈值。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。