阿里清华论文获ICML杰出奖：揭秘扩散模型推理新发现

2026年7月5日，全球人工智能领域最具影响力的学术会议之一——国际机器学习大会（ICML）正式揭晓年度杰出论文获奖名单。来自中国清华大学和阿里巴巴集团的研究团队凭借其关于扩散大语言模型（dLLM）的突破性研究成果，成功斩获ICML最高荣誉奖项。

这一获奖论文题为《灵活性陷阱：重新审视扩散语言模型中任意顺序的价值》（The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models），由清华大学黄高教授团队与阿里巴巴研究人员共同完成。论文发表后立即引发广泛关注，因其不仅挑战了当前扩散模型研究中的一个核心假设，还提出了切实可行的解决方案，对整个AI领域的发展具有深远影响。

扩散模型的独特优势与潜在问题

扩散大语言模型是近年来备受瞩目的下一代语言模型架构，其核心创新在于突破传统自回归模型从左到右逐个生成token的限制，允许以任意顺序生成文本。这种灵活性理论上赋予模型更大的解空间，使其能够更自由地组织信息结构，例如先生成结论再补充论据，或先解决关键问题再完善细节。

然而，这项研究通过大量实验证明，在处理数学、编程等需要严谨逻辑推理的任务时，这种任意顺序生成机制反而可能成为限制模型表现的"陷阱"。研究发现，模型会利用顺序灵活性，优先选择容易生成的部分，而刻意回避那些不确定性高、对推理至关重要的节点（如"因此"、"所以"等连接词）。当这些关键节点被推迟到后期生成时，由于上下文已经基本确定，模型实际上失去了探索多种可能性的机会，导致推理路径被提前锁定。

图1展示了两种生成方式的对比：(a) 自回归顺序要求模型在每个逻辑分叉口立即作出选择，保持推理的连贯性；(b) 任意顺序则允许模型绕过难点，优先处理简单部分，但最终可能导致推理链条断裂。

JustGRPO算法的突破性贡献

针对上述发现，研究团队提出了一种极简算法"JustGRPO"（Just Group Relative Policy Optimization）。该方法的核心思想是放弃扩散模型原有的任意顺序生成特性，转而采用标准的分组相对策略优化（GRPO）框架。JustGRPO算法结构简洁，仅需在强化学习训练阶段调整生成顺序约束，无需引入复杂的工程实现。

实验结果显示，JustGRPO在业界标准测试集GSM8K（包含约8500道多步推理小学数学应用题）上达到89.1%的准确率，全面超越现有为扩散模型专门设计的复杂强化学习算法。更重要的是，JustGRPO不仅显著提升了模型的推理能力，还完整保留了扩散模型并行解码的优势，确保推理速度不受影响。

"我们原本以为任意顺序生成会带来无限可能，但实际研究揭示了一个深刻的矛盾：灵活性本身可能成为限制因素。"论文第一作者Zanlin Ni表示，"JustGRPO证明，有时候最简单的解决方案往往是最有效的。"

学术界的广泛认可与未来展望

ICML杰出论文奖的评选过程极为严格，通常只授予2-3篇论文，获奖率不足千分之一。此次清华大学与阿里巴巴的合作成果能够脱颖而出，充分体现了学术界对其研究价值的高度认可。

"这篇论文的重要性在于它不仅指出了当前扩散模型研究中的一个关键误区，还提供了切实可行的改进方案。"ICML程序委员会主席Alekh Agarwal评价道，"这将引导后续研究者重新思考如何设计和优化扩散模型的生成机制。"

随着扩散模型在自然语言处理、计算机视觉等多个领域的广泛应用，这项研究的发现将对相关技术的发展产生深远影响。未来，研究人员可能会围绕如何平衡模型的灵活性与推理效率展开更多探索，而JustGRPO算法的提出则为这一方向提供了重要的参考范例。

"我们相信，这项研究只是扩散模型发展道路上的一个里程碑。"黄高教授总结道，"接下来，我们将继续探索如何让这些模型在保持灵活性的同时，真正释放出强大的推理潜力。"

查看论文全文