跳到正文
热点事件持续更新

Uncode框架校准掩码扩散模型解码偏差

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Pengcheng Huang等作者提出解码去偏校准框架Uncode,用于缓解掩码扩散模型(MDM)中基于不确定性的解码策略带来的刚性边界偏差和琐碎 token 偏差。作者称,这些偏差会限制模型推理能力并降低生成质量。 Uncode通过引入两种互补先验约束全局解码轨迹。作者在三个先进MDM和七个推理与规划密集型基准上测试,称其比现有解码策略高出7%以上,性能与同参数规模的自回归模型相当。代码已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · cs.AI
    掩码扩散模型解码偏差的实证分析:Uncode 校准框架

    研究揭示掩码扩散模型(MDM)中基于不确定性的解码策略会引入刚性边界偏差和琐碎 token 偏差,限制推理能力并降低生成质量。为此提出解码去偏校准框架 Uncode,通过引入两种互补先验约束全局解码轨迹。在三个先进 MDM 和七个推理与规划密集型基准上,Uncode 比现有解码策略高出 7% 以上,性能与同参数规模的自回归模型相当。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。