MIT团队用131072个权重微调修复AI重复推理，千问模型数学正确率提升6倍

当一个8亿参数的小型语言模型在解数学题时反复推导同一结论，写满32,768个token仍无法收尾，它究竟卡在哪一步？MIT计算机科学与人工智能实验室（CSAIL）的研究团队没有止步于“模型能力不足”的笼统判断，而是深入内部状态，试图回答一个更根本的问题：AI如何知道自己改对了？

这项实验以通义千问Qwen3.5-0.8B为对象——一个参数量约8亿、在标准数学评测中仅答对11/96题的小模型。研究者发现，其85份未完成答卷存在共性：大量内容是同一段推理逻辑的循环复现，而非真正推进解题过程。问题不在于“不会算”，而在于“反复验算却停不下来”。

为诊断这一现象，团队引入了一个名为Astra的分析系统。Astra并非直接重训模型，而是采用“对照实验+神经激活差异分析”的策略：针对同一道工资计算题（周一10小时、周二8小时、剩余20小时，时薪20美元），生成两段后续文本——一段正常推进至760美元结果并换算法验证；另一段则在“总工时38小时”处陷入自我质疑：“20小时是总工时吗？”并重复提问。

图中清晰呈现了整个干预路径：Astra让千问分别读入这两类文本，实时提取其24层Transformer结构中每一层的隐藏状态向量。通过对四组对照样本求平均差值，形成一个指向“重复行为特有偏移方向”的向量箭头。接着，系统筛选出在该方向上响应最显著的两层——第15层与第19层的前馈网络（FFN），并在每层中按贡献度排序，各选出64个关键神经元。

每个神经元对应输出矩阵中的一列（1,024维），因此总共涉及2×64×1,024 = 131,072个权重位置。这个数字仅占全模型8亿参数的0.016%，却成为后续干预的核心靶点。

早期尝试曾简单“关闭”某个高活跃神经元，结果仅使32题测试中答对数从3增至5，效果不稳定且可能损伤正常推理能力。于是团队转向更精细的调控：仅将选中列向量在“重复偏移方向”上的分量适度回调，垂直方向保持不变。调整幅度由新旧模型在验证集上的表现决定——最终确定系数为6，即若某列在该方向分量为+1，则减去6倍该分量变为−5。

为排除偶然性，研究者还设置了随机对照：在相同两层中沿与原方向垂直的随机向量施加相近幅度改动，结果未观察到性能提升。这进一步佐证了所定位方向与重复行为的因果关联。

补丁定型后，修改版模型在1,152道全新题目上测试：579道由错变对，仅5道由对变错；其中576道原错误样本均因输出截断而失败，说明干预有效缓解了无效循环。在独立基准MATH-500上，正确率从7.9%跃升至48.1%，提升超6倍。

值得注意的是，该方法具有模型特异性。当同样流程应用于本身较少重复的Gemma 3 270M模型时，50次前向测试中正确率仅从6.8%微增至7.0%，表明干预需针对具体缺陷模式设计，而非普适“增强”。

这项工作揭示了一条不同于传统微调的新路径：与其用海量数据重新训练整个模型，不如先理解其失败机制，再以极小代价进行精准外科手术式修正。尤其对资源受限的边缘部署场景，这种“局部修补”策略更具可行性。

当前主流评估框架如Harness²常面临“无标准答案”的现实困境——例如让AI代理处理订单文件计算净销售额，开发者往往缺乏一份权威月报用于比对。而本研究的价值正在于：它提供了一种在无监督反馈条件下仍能定位并验证改进有效性的方法论。通过构造可控对照、量化神经活动差异、建立改动与行为变化的映射关系，Astra实现了对模型内部决策过程的可解释干预。

从技术演进角度看，这类“诊断-定位-干预-验证”闭环正成为大模型可解释性研究的重要分支。过去几年，研究者多聚焦于“为什么模型会犯错”（如注意力热力图、特征归因），而MIT团队则向前迈了一步：不仅解释错误，更给出可操作的修正方案，并严格验证其有效性。

值得思考的是，这种基于行为差异反推神经机制的方法，是否适用于更复杂的幻觉或价值观偏差问题？例如，当模型在政治议题上反复自相矛盾时，能否同样找到特定层与神经元组合构成的“冲突回路”？目前尚无公开验证，但原理上具备延伸可能。

此外，该成果也对模型压缩与知识蒸馏带来启发：若仅131,072个权重就足以显著提升推理质量，那么是否存在更高效的“关键参数子集”可用于轻量化部署？已有研究表明，大模型中大量参数实际处于冗余状态，而本工作以实证方式锁定了其中一类功能性冗余——那些驱动无效循环的神经通路。

需要强调的是，此次干预并未改变模型架构或训练目标，仅调整了极小部分权重。这意味着，模型的基础能力并未被“增强”，而是其推理流程被“疏通”了。这提示我们：大模型的性能瓶颈有时不在容量或数据，而在内部信息流的组织效率。

随着开源模型生态日益成熟，此类细粒度调试工具或将逐步成为开发者标配。未来，类似Astra的分析系统有望集成进Hugging Face Transformers等平台，允许用户上传失败案例，自动推荐潜在修补方案——就像现代IDE能指出代码中的死循环并建议修复路径一样。

AI如何判断自己改对了？答案或许不是靠全局指标的提升，而是通过构建可追溯的因果链：从行为异常出发，定位神经机制，实施定向干预，最后在独立测试中观察预期效果是否稳定出现。这条路径虽复杂，却比盲目扩大模型规模更接近智能的本质。