arXiv · cs.CL· Surya Saka·· 2 小时前
语言模型能否边思考边学习？研究测试不同架构下的梯度自适应
Can Language Models Learn While They Think? Testing Gradient Adaptation Across Architectures
AI 导读
研究测试了动态评估（让模型在阅读文本上做梯度更新）在混合线性注意力、扩散语言模型和长上下文基准上的表现。
来源：arXiv · cs.CL · arxiv.org
语言模型能否边思考边学习？研究测试不同架构下的梯度自适应