跳到正文
IT之家·· 4 小时前AI 评分67

MIT CSAIL 提出「权重空间编程」:GPT-6 Astra 修改 Qwen3.5-0.8B 约 0.016% 权重,MATH-500 成绩提升约 6 倍

MIT 研究者提出「权重空间编程」:GPT-6 Astra 仅修改 Qwen3.5-0.8B 约 0.016% 权重,数学成绩提升至原来 6 倍

AI 导读

MIT CSAIL 研究人员(研究由 Takehi 等人于当地时间 11 月 2 日发布)提出「权重空间编程」,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重,定位第 15 层和第 19 层 MLP 导致推理循环的重复方向,修改 131072 个权重(约 0.016% 参数),不使用梯度下降或传统训练循环。

来源:IT之家 · ithome.com