网通社科技快报

超节点重构算力逻辑 72卡到1024卡推动系统级协同升级

超节点走红一年后,AI算力扩张逻辑发生根本转变:行业不再单纯依赖增加GPU数量,而是转向以系统级协同优化提升效率。2024年3月英伟达推出GB200 NVL72(72卡集成于单NVLink域),标志算力竞争进入“重构连接”新阶段。传统八卡服务器内NVLink带宽可达1.8TB/s,而跨节点InfiniBand仅约400GB/s,通信瓶颈显著拖累训练效率——DeepSeek实测显示节点内有效带宽160GB/s,跨节点仅40GB/s,迫使模型设计适配硬件拓扑。

超节点通过物理紧耦合(共享电源/冷却/背板)、统一内存编址(如华为Atlas 950 SuperPoD提供256TB全局地址空间)及软硬件协同调度,将分散资源整合为逻辑单一超级计算机。2025年4月华为云在芜湖上线CloudMatrix 384;2026年7月展示1024卡Atlas 950 SuperPoD;浪潮元脑SD200 Ultra以128颗国产芯片构建系统,支持8TB统一显存,成功单机运行2.8万亿参数Kimi K3模型,体现国产方案系统整合能力突破。

但卡数增长不等于性能提升。Google AI负责人Amin Vahdat强调“有效吞吐”才是核心指标,需扣除故障恢复、任务等待等损耗;其指出Token生成能力每半年翻倍目标中,至少一半依赖软件优化。超节点价值在于“连起来能否高效用起来”,而非单纯扩容。

深层动因来自AI负载结构性变化:长时程Agent推高对加速器、CPU、网络与存储的同步需求;推理服务规模倒逼独立智算中心建设;电力约束促使行业转向能效优先,液冷技术成关键支撑。专用化路径亦趋理性——TPU等芯片投资需预判负载持久性,Google坚持垂直整合与开放接口并存。

当前72卡至1024卡的数字意义在于验证扩展边界,真正决定效率的是互联带宽匹配模型并行策略、统一内存减少数据搬运、软件栈释放硬件潜能。当DeepSeek调整专家分布以降低通信成本、浪潮针对Kimi K3优化调度时,反映的是系统工程思维对粗放扩张逻辑的修正。算力下一程,是重组织而非加机器。