跳到正文
arXiv · cs.AI· Adarsh Jamadandi, Nicolas Keriven·· 14 小时前

离散图扩散模型被曝隐性记忆:GDMs 的条件记忆现象

Your Discrete Graph Diffusion Model is Secretly Memorizing

AI 导读

研究发现离散图扩散模型(GDMs)存在记忆现象:在双块随机块模型(SBM)上训练时,模型对损坏的训练图几乎能完美恢复,而对留出测试图则不能,作者称之为"条件记忆"。该现象仅在反向轨迹以损坏训练图为条件时出现,推理阶段不可见,且伴随泛化差距扩大,早停无法缓解。记忆的出现总是先于生成图中社区结构的形成,在所有测试节点规模上均成立。

来源:arXiv · cs.AI · arxiv.org