MIT CSAIL 发布「权重空间编程」:GPT-6 Astra 直接改权重提升小模型数学成绩
热点事件持续更新
MIT CSAIL 发布「权重空间编程」:GPT-6 Astra 直接改权重提升小模型数学成绩
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
MIT CSAIL 研究人员(Takehi 等)于 11 月 2 日在博客发布「权重空间编程」研究,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重,而非通过常规训练流程调整参数。GPT-6 Astra 定位到该模型第 15 层和第 19 层 MLP 中导致推理循环的重复方向,修改 131072 个权重(约 0.016% 参数),全程未使用梯度下降或传统训练循环。研究称该调整使模型在 MATH-500 数学基准上的成绩从 7.9% 提升至 48.1%,约提升 6 倍。 实验设置上,研究团队为 GPT-6 Astra 提供了可读取和修改模型权重的 Python 环境,并允许其使用 GSM8K 和 MATH 训练集中的练习题进行有限次数的前向推理。团队同时说明,权重空间编程可以消除模型已有能力发挥过程中的障碍,但不一定能凭空创造模型原本不具备的能力。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- IT之家MIT CSAIL 提出「权重空间编程」:GPT-6 Astra 修改 Qwen3.5-0.8B 约 0.016% 权重,MATH-500 成绩提升约 6 倍
MIT CSAIL 研究人员(研究由 Takehi 等人于当地时间 11 月 2 日发布)提出「权重空间编程」,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重,定位第 15 层和第 19 层 MLP 导致推理循环的重复方向,修改 131072 个权重(约 0.016% 参数),不使用梯度下降或传统训练循环。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。