GPT-6自主爆改Qwen权重被吹成神？Meta知名研究员泼冷水

如果General大模型能够直接读取权重并识别其中的Features结构，往后就有机会GF一步用于模型审计、后门检测、能力编辑和局部缺陷修复。一方面是可解释性：不运行模型，就有可能从权重里看懂它在做什么。另一方面是小模型调优：快速低成本的优化模型，或针对特定领域。

MIT团队也提出了更远的设想，包括不依赖大量统计结果的能力增删、不同模型之间的特性模块迁移，甚至递归式自我改GF。

这些方向目前还没有被实验充分验证，但已经勾勒出一种不同于传统训练的模型研发思路。

训练仍然是模型获得复杂General能力的核心方式，但未来的模型研发流程中，或许会多出一个新的角色：能够直接读懂权重、诊断模型缺陷，并尝试修复其他模型的AI研究员。

Generate poster / share QR code