跳到正文
热点事件持续更新

LangDiT连续扩散语言模型架构提出

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Weijian Luo等作者提出并系统研究了面向连续扩散语言模型(CDLM)的Transformer架构LangDiT。该架构结合了特征与query-key归一化、更宽的噪声条件、似然捷径梯度路由与校准,以及置信度门控训练自条件等设计,目标是优化CDLM的Transformer架构。 目前该工作以预印本形式发布在arXiv的cs.AI板块,尚未见经同行评审或第三方复现的结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · cs.AI
    LangDiT:为连续扩散语言模型设计的 Transformer 架构

    研究提出 Language Diffusion Transformer(LangDiT),通过特征与 query-key 归一化、更宽的噪声条件、似然捷径梯度路由与校准、置信度门控训练自条件等设计,为连续扩散语言模型(CDLM)优化 Transformer 架构。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。