跳到正文
雷峰网 · AI·· 4 小时前精选

MIT CSAIL 用 GPT-6 Astra 改写 Qwen3.5-0.8B 权重,0.016% 参数让 MATH-500 从 7.9% 升至 48.1%

0.016% 的 Astra 微创手术,治好了 Qwen 的 3 万 Token 死循环

AI 导读

MIT CSAIL 提出 Weight-Space Programming,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的内部权重,只改动约 0.016% 的参数,就把 MATH-500 从 7.9% 提升到 48.1%,GSM8K 从 13.8% 升至 67.1%。

推荐理由

MIT CSAIL 的实验显示,权重空间编程能定位并改写模型内部计算回路,为模型故障修复提供了一条不经过梯度下降的路径。

来源:雷峰网 · AI · leiphone.com