研究：扩散语言模型推理成本随任务与语言变化

Mohsen Fayyaz 等作者发表论文，分析两个扩散语言模型在 10 项任务上的推理成本差异。结果显示，每生成一个 token 所需的前向次数高度依赖任务：DiffusionGemma 写故事时生成一个 token 的前向次数是语法纠错的三倍以上。作者称，输出中相对输入的新内容比例和词汇稀有度可以解释这一差距。 这意味着扩散语言模型的推理开销不能按统一标准估算，任务类型和语言会影响实际计算量。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。