AI推理时代CPU崛起,从配角到算力核心的重塑

随着AI从模型训练转向智能体推理,CPU在算力架构中的角色发生根本性转变。英特尔在Connection大会上展示了至强6+处理器如何通过系统级优化,将CPU从传统辅助角色升级为AI推理时代的控制中枢,...

人工智能

当AI技术从单纯的知识问答进化为解决复杂问题的智能体时,支撑其运行的底层算力架构也迎来了革命性变革。这场变革的核心在于,CPU正从过去的"配角"地位,重新成为整个AI系统的"控制中枢"。英特尔在9月22日的Connection大会上,通过一系列技术演示和数据展示,揭示了这一算力版图重塑的关键逻辑。

在传统的AI大模型训练阶段,GPU凭借其强大的并行计算能力占据主导地位。然而,当AI进入实际应用环节,特别是智能体需要持续执行任务、调用工具、处理长上下文信息时,CPU的重要性开始凸显。根据英特尔的数据,在Agent场景中,工具执行等任务占比超过请求响应时间的60%,而容器初始化等CPU侧操作则占到55%-60%。这意味着,CPU已经承担起超过一半的AI计算负载。

这种转变对CPU架构提出了全新的要求。与过去追求平均吞吐量不同,AI推理时代更注重端到端的稳定性和低延迟。英特尔通过至强6+处理器实现了这一目标,该产品采用Intel 18A制程工艺,最高拥有288个能效核,单颗即可部署近千个智能体。在SWE-bench测试中,其单智能体性能领先竞品15%;在云端沙箱场景下,支持350个沙箱并发,性能约为竞品的1.46倍。

具体来看,CPU在AI推理中的关键作用体现在多个层面。首先是异构数据预处理,例如网页抓取、视频分析等任务,这些正是CPU擅长的领域。其次是存储调度,CPU作为核心控制器,能够有效管理HBM、DRAM和本地SSD之间的数据流动。最后是KV Cache管理,面对百万Token级别的上下文数据,CPU通过QAT实现无损压缩,并借助DSA引擎将数据搬运速度提升9.66倍。

为了应对AI推理对算力的新需求,英特尔采取了系统级的架构重构策略。陈葆立表示,未来的数据中心将被划分为三类集群:负责智能体执行和任务编排的CPU集群、负责模型推理计算的GPU集群,以及承载长对话、文档等持续新增业务数据的存储集群。这三类集群之间的数据调度,全部由CPU完成。

文章配图

在物理AI领域,CPU的角色同样不可或缺。高嵩指出,机器人必须与真实物理环境交互,这对实时感知和精准执行提出了极高要求。第三代酷睿Ultra通过XPU异构架构,将CPU、GPU和NPU整合在同一颗SoC上。其中,CPU以4kHz的控制频率每秒完成4000次动作调整,确保关节电机的精准响应;GPU在Pi0.5精度下推理时延仅为78毫秒,低于人类视觉反应时间;NPU则负责视觉感知,YOLOv12n推理仅需3.55毫秒,远超普通摄像头的输出上限。

文章配图

这场CPU的"逆袭"不仅体现在性能指标上,更反映在算力架构的整体重构中。正如平头哥半导体产品总监黄伟所言:"在Agent时代,CPU的角色发生了根本变化。过去大模型推理是一问一答,现在智能体需要不停地循环推理、调用工具、规划步骤,这些都离不开CPU的支持。"

可以预见,在AI推理时代,CPU将成为整个算力体系的核心控制者,其性能表现和系统协同能力将直接影响AI应用的实际效果。