arXiv · cs.CL· Jiajun Liang, Yucheng Liao, Yukang Cao, Jiazhe Wei, Ken Li, Wende Tan, Jiankun Zhang, ZY Cui, Jingkang Yang, Liucheng Guo, Shiqi Yang, B. Yang, Caifeng Shan, Ziwei Liu, Chenyang Si·· 46 分钟前
AURORA-LM：面向连续潜空间扩散语言建模的统一表示自编码
AURORA-LM: Autoencoding Unified Representation for Continuous-Latent Diffusion Language Modeling
AI 导读
AURORA-LM 提出一种连续潜空间扩散语言模型，将可解码文本表示的构建与其分布建模分离，由 Query-based 编码器-解码器生成前缀对齐的高容量潜序列，Block-causal Diffusion Transformer 通过 flow matching 逐块从左到右生成。
来源：arXiv · cs.CL · arxiv.org