英伟达开源TwoTower模型：Token生成提速2.42倍

在人工智能领域，英伟达再次引领技术革新。该公司于2026年7月2日发布博文，正式开源Nemotron-Labs-TwoTower模型。这款模型采用创新的双塔（TwoTower）架构，旨在解决大型语言模型在Token生成过程中的速度瓶颈问题。

根据英伟达提供的测试数据，Nemotron-Labs-TwoTower模型在多个基准测试中表现出色。在MMLU、ARC-Challenge等任务上，其质量表现仅比原始模型下降了1.3%，但实际运行时间吞吐量却提升了2.42倍。这一突破性进展主要得益于模型独特的双塔设计：一个塔负责维护文本的自回归上下文（Context Tower），另一个塔则专注于对噪声块进行去噪处理（Diffusion/Denoiser Tower）。两个塔通过逐层交叉注意力机制协同工作，实现了性能与效率的双重提升。

该模型总参数规模达到600亿，其中包含300亿参数的自回归模型（AR）/context Tower和300亿参数的扩散/降噪Tower。每个塔激活30亿模型参数，并配备了128个可路由专家（MoE）模块。值得注意的是，TwoTower模型完全基于预训练模型构建，而非从头开始训练，这不仅节省了计算资源，也保证了模型的稳定性。

在开源方面，Nemotron-Labs-TwoTower以开源权重形式在Huggingface平台发布，授权协议为NVIDIA Nemotron Open Model License。这一举措使得开发者能够更便捷地获取和使用该模型，推动AI技术的普及与发展。

英伟达首席科学家兼研究副总裁William J. Dally博士表示："TwoTower模型的推出，标志着我们在提高大型语言模型效率方面取得了重要进展。通过创新的架构设计，我们能够在不牺牲质量的前提下显著提升模型的运行效率，这将为未来的AI应用开发提供强大的支持。"