理论分析揭示掩码扩散模型为何能缓解反转诅咒

一项理论分析解释了掩码扩散语言模型（MDM）为何能比自回归模型更弱地表现出反转诅咒：共享 Transformer 参数存储 token 对证据，相对位置编码只通过 query 和 key 路由注意力、不改变被检索的 value 侧证据，从而在正向与反向位置条件之间形成参数级耦合。