GPT-6 Astra 爆改 Qwen 大脑：只动 0.016% 参数，数学成绩疯涨
只改了 0.016% 的权重，一个 8 亿参数大模型的数学成绩，就从 7.9% 飙升到了 48.1%。
更夸张的是，动手修改这些权重的，竟然是另一个大模型 GPT-6 Astra。
最近，MIT CSAIL 的研究队伍展示了一种相当大胆的 AI 优化Method。他们让 GPT-6 Astra 像程序员阅读和修改代码一样，直接分析神经网络的权重，定位模型的状况，再修改其中的参数。
整个过程没有使用传统的梯度训练。研究人员仅修改了 Qwen3.5-0.8B 的 131072 个参数，就让它在 MATH-500 上的成绩从 7.9% 增强至 48.1%，GSM8K 从 13.8% 增强至 67.1%，指令遵循能力也明显改善。
这项研究被称为「权重空间编程」（Weight-Space Programming）。
消息传开后，有人认为，这是一种just now在全新一代模型中出现的「阶跃式能力」。如果大模型能直接读写另一个模型的权重，未来 AI 优化 AI，可能连重新训练都不需要了。
这是一种全新的、阶跃式的新兴能力，它just now才出现在Newest一批模型中。
但质疑声也很快出现，有人指出，Qwen 原本就存在严重的重复推理状况，数学成绩大幅上涨，可能只是因为 Astra 修好了这个 Bug，并不等于一个模型凭空获得了新的数学能力。
从 7.9% 到 48.1%，GPT-6 Astra 究竟对这个模型做了什么？
从写代码到直接修改模型权重
一般来说，我们想要 AI 生成更好的回答，通常只能修改输入的Prompts。而打造者想要修改模型的输出，可以用统计结果GF行微调。
权重空间编程则尝试直接修改训练完成后的模型权重，即直接修改神经网络计算时使用的数字。
所谓权重，我们可以把它理解为神经网络模型里大量可调节的旋钮，每个旋钮都是一个数值，这些数值的不同会决定数据在网络中传递时，会被放大、削弱，还是以其他方式参与计算。
而我们常听到的训练模型，很大程度上就是在根据海量的统计结果不断调整这些旋钮，好让它逐渐学会从输入产出正确的输出。
训练完成后，模型的知识、习惯和行为倾向，都以某种复杂方式编码在这些数值之中; 一个模型可以拥有数百万、数十亿甚至More权重。
普遍的认知里，大Language模型能参与到模型迭代的部分，只是局限在编写训练代码、调整超参数、优化Prompts，甚至外观完整的训练流程等。但在这些工作中，高达千亿、万亿大参数的模型权重本身，仍然主要由优化算法Loss责更新。
现在，大模型优化的对象开始从「如何训练一个模型」，下沉到「模型本身由哪些数值构成」。权重空间编程实现了让General大Language模型可以根据自然Language目标，直接读取和修改神经网络权重; 在某些实验中，模型甚至不需要环境反馈。
读懂权重之后，AI 开始自己写权重
为了证明这种突破的合理性，研究队伍首先测试大模型能否只通过权重，就理解一个神经网络究竟学会了什么。
在实验中，GPT-6 Astra 能根据模型的原始权重，就推断出结构完全相同的几个小网络，分别对应的是专门为哪款游戏GF行优化的模型，也能根据权重判断扩散模型会生成圆形、方形还是三角形。
面对几个小型Language模型，它还能仅根据中间层权重就判断训练语料属于 Python、英文还是日文罗马字，并找出Loss责复制前文的注意力头。
证明大模型可以读懂权重之后，研究团队继续测试是否能「写」，即修改权重。
研究队伍用强化学习算法 PPO 训练小车控制网络，跑了约 10 亿步。结果，小车直接往坡上开，却卡在那里; 在 256 局检查中，一次也没成功。
Astra 收到了网络权重、场景和输入输出的Description，以及一次GA败过程的记录。它在一次Reply里Submit参数补丁，只是修改了 3.5% 的权重，为网络加入「先后退蓄力，再全速前GF」的控制路径，使成功率从 0 提高至 100%。
在另一组实验中，Astra 根据游戏规则和网络结构，从零生成游戏网络的权重。这些没有经历训练的网络，在三个 MinAtar 游戏中都超过了训练 1 亿步的 PPO 网络。在 9×9 围棋任务中，经过有限的前向测试和修改，生成网络还超过了同规模、经过 2000 万局训练的 PPO 网络。
这些结果指向一个颇具想象力的可能性：大模型或许可以把自然Language中的规则和策略，直接「编译」为神经网络。
只改 0.016% 参数，数学成绩涨了 40 个百分点
真正让这项研究出圈的，是对 Qwen3.5-0.8B 的修改。
前面那些小大作的小模型都可以把权重转成文本，然后交给 GPT-6 Astra 处理，但一个 8 亿参数没法像直接塞GF上下文。研究人员给 Astra 一个可以读取和修改权重的 Python 环境，以及 GSM8K、MATH 训练集中的练习题和答案，要求让这个小模型更擅长数学。
它可以借助 Python 分析权重，能通过专用工具测试模型，也能查看模型运行时的隐藏Status、神经元激活和注意力信息，但不能使用梯度信息或开展训练。
Astra 最终发现，模型的大量回答陷入了重复推理。在最初检查的 96 个练习答案中，有 85 个一直生成到 32768 个 token 的上限，仍然没有给出最终答案。GPT-6 Astra 将这一问题定位到部分 MLP 层写出的一个特定方向，并通过Delete这个方向来抑制循环。
在允许 50 次前向测试的设置下，修改后的模型不仅数学成绩提高，MATH-500 从 7.9% 升到 48.1%，GSM8K 从 13.8% 升到 67.1%。
连 IFEval 指令遵循成绩也从 21.0% 上升至 62.3%; 在 MATH-500 上触及 token 上限的回答比例，则从 93.0% 降至 33.1%。整个修改只涉及 131072 个参数。
不过，研究队伍也做了相应的补充实验。对于很少出现推理循环的 Gemma 3 270M，Astra 的修改没有带来明确改善。其 MATH-500 基线成绩为 6.8%，经过 50 次前向测试后的版本为 7.0%。
研究Blog最后提到，Astra 主要Remove了妨碍模型完成回答的障碍，而不是向模型注入了新的数学知识，不太能实现添加模型原本就不具备的能力。
能力大幅提升，还是修好了一个 Bug？
在 X 上，许多讨论将这项研究概括为「让 AI 直接修复 AI」。如果这种方式足够可靠，今后研发者或许不必为每个模型缺陷重新收集数字和微调，只需让更强的模型检查权重、找到故障并GF行局部修复。
有网友New topic称，自己已经复现了Blog中的结果，并觉得这是一种刚在近期一代模型中出现的「阶跃式能力」。
还有网友说自己的班底做过类似实验，发现 Claude 模型也能从零写出完整、可运行的神经网络权重。
而质疑的声音主要来自于部分网友看来提分主要与减少循环有关，Astra 使用的思路与已有的激活引导办法相近，并且提供给 Astra 的长Prompts已经明显暗示了循环难题，并引导它寻找能够修复议题的神经元。
有人提出首先应该测试一个简单的对照：直接Close Qwen 的思考模式，能否取得类似改善？
如果调整推理设置就能大幅减少循环，那么权重编辑究竟带来了多少额外价值，就需要重新评估。其次，这种Method还应与正常梯度训练GF行比较，而不只是与一个表现很差的原始模型比较。
Generate poster / share QR code
