英伟达VeraCPU放弃Chiplet设计,单晶粒88核重塑代理AI时代CPU架构
英伟达Vera CPU团队承认过去多年为堆核数牺牲单线程性能,而代理AI的兴起正推动架构逆转。Vera采用单晶粒集成88个Olympus核心,单核性能达AMD EPYC Venice的1.5倍,在智能...
英伟达近期罕见公开反思数据中心CPU的设计路径,并推出其首款专为代理AI(Agentic AI)定制的处理器——Vera CPU。这一动作不仅标志着该公司在CPU领域的战略升级,更折射出整个AI基础设施架构正在经历一场静默却深刻的范式转移:CPU正从GPU的“配角”回归为系统级协调的核心。
在10月举行的多次访谈中,Vera CPU团队明确指出,过去十年间,云端基础设施普遍追求高核心密度与整体吞吐量,导致单线程性能与每时钟周期指令数(IPC)长期停滞。x86厂商转向多Chiplet布局后,芯片面积被大量用于互联与I/O,留给单核优化的空间急剧压缩。英伟达直言:“使用Chiplet后,芯片上根本没有足够空间去为每个核心做性能设计。”
这一趋势在传统AI训练场景中尚可接受——GPU承担密集计算,CPU仅负责数据调度与预处理。但当AI智能体(Agent)开始主导推理流程,情况发生根本变化。代理AI需在GPU与CPU之间高频循环执行工具调用、状态更新与决策判断,其工作流高度顺序化且对延迟极度敏感。若CPU单线程响应缓慢,昂贵的GPU将长时间处于闲置等待状态,造成严重资源浪费。
正是在此背景下,Vera CPU应运而生。它彻底放弃Chiplet路线,将全部88个Arm-based Olympus核心与176个线程集成于单一晶粒之上。这种设计牺牲了部分扩展灵活性,却换来显著的单核性能提升与确定性低延迟——Vera的单核性能最高可达AMD EPYC Venice的1.5倍;在典型代理AI编排任务中,比英特尔Sapphire Rapids快约2.2倍。
值得注意的是,Vera并非简单复刻传统高性能CPU。其核心目标是支撑“CPU控制的AI沙盒”(CPU-controlled AI sandbox),即由CPU统一管理数百甚至上千个轻量级AI代理的并发推理循环。该沙盒需同时满足三大要求:高单线程性能以快速响应顺序任务、高内存带宽以支撑代理状态频繁读写、以及纳秒级可预测延迟以避免GPU空转。
英伟达已将Vera定位为独立资产,而非GPU堆栈中的附属组件。公司计划推出专用的Vera CPU机架,专门部署于数据中心前端,承担代理工具调用、上下文管理、逻辑编排等“指挥型”任务。这标志着CPU角色的根本转变:从通用多任务处理器,升级为AI生态系统的“指挥家”。
这一转变也体现在硬件资源配置比例上。过去数据中心GPU与CPU的配比常达8:1,即一台服务器配8块GPU与1颗CPU;随着代理AI负载增加,该比例已降至4:1,部分测试集群甚至接近1:1。有行业观察者预测,未来代理AI主导场景下,GPU:CPU可能演变为1:80——即1块GPU搭配80颗CPU核心协同工作。尽管英伟达未完全认同该极端比例,但明确承认“存在向CPU转向的趋势”,并将其作为推动独立Vera机架部署的核心动因。
在2026年GTC大会上,黄仁勋正式宣布Vera Rubin平台全面投产,该平台包含7款自研芯片:Vera CPU、Rubin GPU、NVLink 6交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6以太网交换机,以及Groq 3 LPU。其中Vera CPU是唯一非加速器类芯片,却承担着系统级协调中枢职能。其与GPU的分工愈发清晰:GPU专注大规模并行计算,CPU则聚焦低延迟、高确定性的顺序逻辑处理。
技术细节上,Vera基于Arm v9架构,采用Olympus核心微架构,主频虽低于部分x86竞品,但凭借更高的IPC与更优的缓存层次结构,在代理类负载中实现反超。第三方基准测试显示,其双路配置在ARM64服务器处理器中登顶同期最强,印证了“单核性能复兴”的可行性。
业界对此反应不一。部分云服务商认为,当前多数AI应用仍以训练与批量推理为主,代理AI尚未形成规模化生产负载;但头部大模型厂商已在内部测试环境中部署Vera样片,用于优化多步推理链路的调度效率。一位参与测试的工程师表示:“在模拟客服Agent场景中,Vera使端到端延迟下降37%,GPU利用率提升22%——这正是我们期待的‘CPU价值重估’。”
更深层看,Vera的出现揭示了一个被长期忽视的事实:AI的“智能”不仅存在于模型参数中,更嵌入于系统架构的协同逻辑里。当AI从被动响应转向主动规划,计算单元的角色必须随之重构。CPU不再只是“搬运工”,而是具备决策能力的“协调者”;GPU也不再是唯一焦点,而是被高效调度的“执行单元”。
英伟达此举亦具战略深意。在GPU领域已建立绝对优势后,通过自研高性能CPU切入系统级控制层,可进一步强化其全栈生态壁垒。尤其在开源模型与轻量化Agent proliferate的当下,谁能提供更高效的推理调度方案,谁就掌握下一代AI基础设施的话语权。
目前Vera CPU已进入量产阶段,首批客户包括多家超大规模云厂商与垂直领域AI服务商。据透露,后续版本将引入硬件级安全隔离机制,支持在同一物理CPU上运行数千个相互隔离的AI代理沙盒,为多租户企业级部署铺平道路。
代理AI尚未成为主流,但其对底层硬件的倒逼效应已然显现。Vera CPU或许不是第一个为AI重新设计的CPU,但它清晰传递了一个信号:在AI从“工具”走向“代理”的进程中,计算架构的重心正在悄然回移——这一次,轮到CPU重新站上舞台中央。
