GPT-6 Astra 爆改Qwen 大脑：只动0.016% 参数，数学成绩疯涨

本文来自WeChat公众号： APPSO ，作者：发现明日新品的，原文Title：《GPT-6 Astra 爆改 Qwen 大脑：只动 0.016% 参数，数学成绩疯涨》

只改了0.016%的权重，一个8亿参数大模型的数学成绩，就从7.9%飙升到了48.1%。

更夸张的是，动手修改这些权重的，竟然是另一个大模型GPT-6 Astra。

最近，MIT CSAIL的研究队伍展示了一种相当大胆的AI优化办法。他们让GPT-6 Astra像程序员阅读和修改代码一样，直接分析神经网络的权重，定位模型的议题，再修改其中的参数。

图｜研究Blog地址：https://rikiyat.github.io/blog/weight-space-programming/

整个过程没有使用传统的梯度训练。研究人员仅修改了Qwen3.5-0.8B的131072个参数，就让它在MATH-500上的成绩从7.9%提升至48.1%，GSM8K从13.8%增强至67.1%，指令遵循能力也明显改善。

这项研究被称为「权重空间编程」（Weight-Space Programming）。

News传开后，有人看来，这是一种just now在Newest一代模型中出现的「阶跃式能力」。如果大模型能直接读写另一个模型的权重，未来AI优化AI，可能连重新训练都不需要了。

这是一种全新的、阶跃式的新兴能力，它just now才出现在Newest一批模型中。

但质疑声也很快出现，有人指出，Qwen原本就存在严重的重复推理问题，数学成绩大幅上涨，可能只是因为Astra修好了这个Bug，并不等于一个模型凭空获得了新的数学能力。

从7.9%到48.1%，GPT-6 Astra究竟对这个模型做了什么？

从写代码到直接修改模型权重

一般来说，我们想要AI生成更好的回答，通常只能修改输入的Prompts。而开发者想要修改模型的输出，可以用数据GF行微调。

权重空间编程则尝试直接修改训练完成后的模型权重，即直接修改神经网络计算时使用的数字。

所谓权重，我们可以把它理解为神经网络模型里大量可调节的旋钮，每个旋钮都是一个数值，这些数值的不同会决定统计结果在网络中传递时，会被放大、削弱，还是以其他方式参与计算。

而我们常听到的训练模型，很大程度上就是在根据海量的数据不断调整这些旋钮，好让它逐渐学会从输入产出正确的输出。

训练完成后，模型的知识、习惯和行为倾向，都以某种复杂方式编码在这些数值之中; 一个模型可以拥有数百万、数十亿甚至More权重。

普遍的认知里，大Language模型能参与到模型迭代的部分，只是局限在编写训练代码、调整超参数、优化Prompts，甚至造型完整的训练流程等。但在这些工作中，高达千亿、万亿大参数的模型权重本身，仍然主要由优化算法Loss责更新。

现在，大模型优化的对象开始从「如何训练一个模型」，下沉到「模型本身由哪些数值构成」。权重空间编程实现了让General大Language模型可以根据自然Language方向，直接读取和修改神经网络权重; 在某些实验中，模型甚至不需要环境反馈。

读懂权重之后，AI开始自己写权重

为了证明这种突破的合理性，研究队伍首先测试大模型能否只通过权重，就理解一个神经网络究竟学会了什么。

在实验中，GPT-6 Astra能根据模型的原始权重，就推断出结构完全相同的几个小网络，分别对应的是专门为哪款游戏GF行优化的模型，也能根据权重判断扩散模型会生成圆形、方形还是三角形。

面对几个小型Language模型，它还能仅根据中间层权重就判断训练语料属于Python、英文还是日文罗马字，并找出Loss责复制前文的注意力头。

证明大模型可以读懂权重之后，研究班底继续测试是否能「写」，即修改权重。

研究队伍用强化学习算法PPO训练小车控制网络，跑了约10亿步。结果，小车直接往坡上开，却卡在那里; 在256局检查中，一次也没成功。

Astra收到了网络权重、场景和输入输出的Description，以及一次GA败过程的记录。它在一次Reply里Submit参数补丁，只是修改了3.5%的权重，为网络加入「先后退蓄力，再全速前GF」的控制路径，使成功率从0增强至100%。

在另一组实验中，Astra根据作品规则和网络结构，从零生成作品网络的权重。这些没有经历训练的网络，在三个MinAtar作品中都超过了训练1亿步的PPO网络。在9×9围棋任务中，经过有限的前向测试和修改，生成网络还超过了同规模、经过2000万局训练的PPO网络。

这些结果指向一个颇具想象力的可能性：大模型或许可以把自然Language中的规则和策略，直接「编译」为神经网络。

只改0.016%参数，数学成绩涨了40个百分点

真正让这项研究出圈的，是对Qwen3.5-0.8B的修改。

前面那些小游戏的小模型都可以把权重转成文本，然后交给GPT-6 Astra处理，但一个8亿参数没法像直接塞GF上下文。研究人员给Astra一个可以读取和修改权重的Python环境，以及GSM8K、MATH训练集中的练习题和答案，要求让这个小模型更擅长数学。

它可以借助Python分析权重，能通过专用工具测试模型，也能查看模型运行时的隐藏Status、神经元激活和注意力信息，但不能使用梯度信息或开展训练。

Astra最终发现，模型的大量回答陷入了重复推理。在最初检查的96个练习答案中，有85个一直生成到32768个token的上限，仍然没有给出最终答案。GPT-6 Astra将这一难题定位到部分MLP层写出的一个特定方向，并通过Delete这个方向来抑制循环。

在允许50次前向测试的设置下，修改后的模型不仅数学成绩提高，MATH-500从7.9%升到48.1%，GSM8K从13.8%升到67.1%。

连IFEval指令遵循成绩也从21.0%上升至62.3%; 在MATH-500上触及token上限的回答比例，则从93.0%降至33.1%。整个修改只涉及131072个参数。

不过，研究班底也做了相应的补充实验。对于很少出现推理循环的Gemma 3 270M，Astra的修改没有带来明确提高。其MATH-500基线成绩为6.8%，经过50次前向测试后的版本为7.0%。

研究Blog最后提到，Astra主要Remove了妨碍模型完成回答的障碍，而不是向模型注入了新的数学知识，不太能实现添加模型原本就不具备的能力。

能力大幅提高，还是修好了一个Bug？

在X上，许多讨论将这项研究概括为「让AI直接修复AI」。如果这种Method足够可靠，未来研发者或许不必为每个模型缺陷重新收集数字和微调，只需让更强的模型检查权重、找到故障并GF行局部修复。

有网友New topic称，自己已经复现了Blog中的结果，并认为这是一种刚在Newest一代模型中出现的「阶跃式能力」。

还有网友说自己的班底做过类似实验，发现Claude模型也能从零写出完整、可运行的神经网络权重。

而质疑的声音主要来自于部分网友看来提分主要与减少循环有关，Astra使用的思路与已有的激活引导Method相近，并且提供给Astra的长Prompts已经明显暗示了循环状况，并引导它寻找能够修复议题的神经元。

有人提出首先应该测试一个简单的对照：直接CloseQwen的思考模式，能否取得类似提升？

如果调整推理设置就能大幅减少循环，那么权重编辑究竟带来了多少额外价值，就需要重新评估。其次，这种Method还应与正常梯度训练GF行比较，而不只是与一个表现很差的原始模型比较。

Generate poster / share QR code