arXiv · cs.LG· Amin Najafgholizadeh·· 16 小时前
Mix-FT：通过混合似然微调让少步掩码扩散语言模型更优
Train the Sampler You Run: Few-Step Masked Diffusion Language Models via Mixture-Likelihood Fine-Tuning
AI 导读
研究者提出混合似然微调（Mix-FT），在无需教师模型、不改架构与采样器的前提下，对预训练模型按其自身采样器似然的重要性加权界进行微调。在 LLaDA-8B 上，仅用预训练算力 0.002% 的 LoRA 微调，每块 16 步（模型评估量减半）的续写效果在每个随机种子下均优于原模型，两位不同模型家族的盲评 LLM 评审在 69% 和 71% 的样本对中更偏好其输出。
来源：arXiv · cs.LG · arxiv.org