雷峰网 · AI·· 4 小时前精选
MIT CSAIL 用 GPT-6 Astra 改写 Qwen3.5-0.8B 权重,0.016% 参数让 MATH-500 从 7.9% 升至 48.1%
0.016% 的 Astra 微创手术,治好了 Qwen 的 3 万 Token 死循环
AI 导读
MIT CSAIL 提出 Weight-Space Programming,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的内部权重,只改动约 0.016% 的参数,就把 MATH-500 从 7.9% 提升到 48.1%,GSM8K 从 13.8% 升至 67.1%。
推荐理由
MIT CSAIL 的实验显示,权重空间编程能定位并改写模型内部计算回路,为模型故障修复提供了一条不经过梯度下降的路径。
来源:雷峰网 · AI · leiphone.com