跳到正文
arXiv · cs.AI· Arnav Chavan, Chanhyuk Lee, Udbhav Bamba, Jaehoon Yoo, Seunghoon Hong, Aditi Raghunathan, Jinwoo Kim·· 5 小时前

Lafa:扩展至 8B 参数的连续流语言模型

Large Flow Language Models

AI 导读

研究团队提出 Lafa(Large flow language model),一种可扩展到 8B 参数的块式连续流语言模型,在 0.5B、7B、8B 三个规模上以少于 30B tokens 完成训练。

来源:arXiv · cs.AI · arxiv.org