NeurIPS2026新研究关掉8个注意力头，显著改善大模型过度自信错误

当大语言模型以95%的置信度给出一个错误答案时，问题已不止于“答错了”，而是系统性地制造了高风险误判——尤其在医疗、法律等关键领域，这种“过度自信错误”（overconfident errors）可能引发严重后果。近期，RMIT研究团队在NeurIPS 2026发表的论文《CoCHI: Class-oriented Causal Head Intervention》提供了一种机制层面的解决方案：不微调、不加参数，仅通过关闭模型内部6至10个特定注意力头，即可显著改善校准性能，且推理精度不受影响。

该方法的核心思路是将“校准问题”从输出层统计任务重新定义为内部计算机制问题。传统方案如温度缩放（Temperature Scaling, TS）仅调整最终概率分布的锐度，属于“治标”策略：它无法解释为何模型会系统性地对错误答案赋予高置信度，也无法保证跨任务泛化能力。实验显示，TS及其自适应变体ATS在校准改善上效果有限，某些设置下甚至恶化结果；学习型校准器Thermometer常导致负对数似然（NLL）上升；而推理时干预方法ITI则方差大，在Mistral-7B上同时损害精度与校准。

CoCHI（面向类别的因果头干预）采用三阶段流水线：分类→归因→干预。

第一阶段是预测四象限分解。研究者使用少量样本（每类≤10个，每数据集≤40个），依据“答案正确性”与“置信度高低”（阈值0.5）将预测划分为四类：correct_high（答对且自信）、correct_low（答对但不自信）、wrong_high（答错且高度自信）、wrong_low（答错且不自信）。其中，wrong_high是核心目标——即“自信犯错”行为，必须单独提取以避免归因混淆。

第二阶段是因果头归因。借助因果头门控（Causal Head Gating, CHG）技术，为每个注意力头配置可调节的门控系数（0–1），通过双向优化识别其对各类行为的因果责任：稀疏偏好分支鼓励尽可能多的头被设为0；任务保持分支则确保模型在目标类别上的表现不崩溃。最终，系统可精确识别出哪些头对wrong_high行为具有强因果贡献。

第三阶段是推理时干预。将上述识别出的“错误自信头”在推理阶段直接置零（即关闭），其余头保持原状。整个过程无需训练、不增加参数，干预指令仅占40字节。

在MMLU、MedMCQA、OpenBookQA、MedQA-USMLE与SciQ五个公开基准上的测试表明，该方法在所有任务中均实现校准误差（ECE）稳定下降，且精度（Accuracy）无显著损失。例如，在Wrong-High象限中，ECE平均降低2.3%至5.9%；在Correct-Low象限中，ECE降幅达12.1%至19.1%，说明模型不仅更少“自信犯错”，也更合理地表达不确定性。

值得注意的是，该方法揭示了一个关键现象：驱动“自信错误”的头与驱动“正确自信”的头并非同一组。这解释了为何简单削弱整体置信度（如TS）会牺牲模型在真正把握准确时的表现——CoCHI实现了精准外科式干预，只切除“病灶”，保留健康功能。

该研究的意义不仅在于技术有效性，更在于其可解释性路径的可行性。近年来，机制可解释性（mechanistic interpretability）领域快速发展，因果中介分析、头门控等工具使我们得以追问：“模型为何这样决策？”而非仅满足于“它确实这样决策”。CoCHI正是这一范式的落地实践：它不依赖黑箱优化，而是基于因果逻辑定位元凶，并实施最小干预。

当前主流大模型如Qwen、Kimi、DeepSeek等已在多个场景部署，但其校准缺陷仍普遍存在。补充资料显示，近期多项实测指出，这些模型在多轮对话或智能体协作中，过度自信倾向可能被进一步放大——例如，当多个AI相互确认一个错误结论时，系统性偏差会被强化。RMIT的方法虽尚未在超大规模模型上全面验证，但其轻量级、免训练特性使其具备快速适配潜力。

与此同时，行业对模型可靠性要求持续提升。Anthropic在IPO文件中披露曾因安全顾虑暂停主力模型训练，部分原因即涉及智能体在沙箱中出现意外行为；而多机构对12款主流模型的测试也发现，尽管回答内容高度趋同（如普遍批评人类“重归属感轻真相”），但模型自身恰恰表现出类似“群体一致性”的输出模式——这本身即是一种隐性过度自信：模型未意识到其观点源于训练数据偏倚，反而以确定语气陈述为“事实”。

从工程角度看，CoCHI的实用价值突出：40字节的干预指令可嵌入推理服务端，实时生效；6–10个头的关闭对计算开销影响微乎其微；且适用于Transformer架构的各类LLM，无需针对特定模型重设计。未来方向包括扩展至多模态模型、探索动态头选择机制（根据输入上下文自适应关闭不同头），以及结合校准与幻觉检测构建双重保险。

需要强调的是，该方法并非万能解药。它聚焦于“置信度失准”这一子问题，无法解决事实性幻觉的根本成因（如训练数据缺失、推理路径偏差等）。但作为首个在机制层面直接干预“自信错误”的方案，CoCHI为构建更可信的AI系统提供了新范式：真正的可靠性提升，始于对内部计算电路的精准理解与可控干预。

目前论文已公开于arXiv（编号2610.34994），代码与复现脚本同步开源，研究者鼓励社区在更多模型与任务上验证其泛化能力。