arXiv · cs.AI· Arnav Chavan, Chanhyuk Lee, Udbhav Bamba, Jaehoon Yoo, Seunghoon Hong, Aditi Raghunathan, Jinwoo Kim·· 5 小时前
Lafa:扩展至 8B 参数的连续流语言模型
Large Flow Language Models
AI 导读
研究团队提出 Lafa(Large flow language model),一种可扩展到 8B 参数的块式连续流语言模型,在 0.5B、7B、8B 三个规模上以少于 30B tokens 完成训练。
来源:arXiv · cs.AI · arxiv.org