扩散模型记忆盆地谱特征与抑制方法

Achref Jaziri 等人发表论文，对条件、无条件及 rectified-flow 扩散模型的记忆盆地给出几何刻画，并提出检测与抑制训练数据记忆的方法。 研究称，模型进入记忆盆地时，函数几何的局部谱会出现主导奇异模态浮现、随后谱急剧恢复的特征信号，该信号同时出现在推理去噪轨迹和训练过程中。基于这一信号，作者在训练时抑制主导模态以压制记忆，在推理时识别进入记忆盆地的轨迹并将其引导离开；作者称低维几何近似下仍有效，并已扩展至大规模文生图扩散模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。