跳到正文
arXiv · cs.AI· Zijian Jia, Peixuan Zhang, Genying Li, Di Wu, Yujie Fu, Si Li, Boxin Shi, Shuchen Weng·· 3 小时前

LLaCO:面向大语言模型的竞争感知语义调度连续扩散框架

LLaCO: Continuous Diffusion for Large Language Models with Competition-Aware Semantic Scheduling

AI 导读

LLaCO 提出一种竞争感知语义调度的连续扩散生成框架,通过球面加噪与 Semantic Retention Scheduling(SRS)消除嵌入范数衰减带来的虚假超越问题,并以 8B 模型实例化,性能超过此前连续扩散基线并媲美同规模离散扩散模型。

来源:arXiv · cs.AI · arxiv.org