AgenticAI推动CPU性能评估体系重构，Arm与AMD推出新架构与测评框架

AI 智能体（Agentic AI）正从概念走向规模化落地，其对底层计算基础设施的重塑效应开始显现。与传统大模型推理不同，一个完整智能体任务往往包含多次模型调用、上下文检索、状态维护、工具执行、策略校验与结果反馈等环节，CPU 在其中承担着“系统协调者”角色——它不直接执行大规模矩阵运算，却主导了从用户意图到任务完成的整条软件栈路径。这一变化迫使业界重新思考：如何科学衡量 CPU 及其配套软件栈在智能体场景下的真实性能？

根据 Arm 与半导体工程（Semiconductor Engineering）联合发布的分析报告，当前亟需一套用例驱动的性能评估框架。该框架将 CPU 可见的工作负载划分为两类：一是通用智能体框架功能（如代理编排、记忆管理、RAG 检索），二是面向具体任务的工具类负载（如代码生成、数据库查询、API 调用）。为覆盖多样化部署场景，研究团队提炼出五类典型工作负载原型，分别对应个人助手、企业流程自动化、代码执行、多模态任务与高安全要求场景，每类具有独特的 CPU 压力特征。

图中清晰展示了智能体软件栈的分层结构：上层为 Apps & AI Services 和 Agent Orchestration，由 CPU 节点独立承载；中间层的 Tool / Action Execution Fabric 与 Model Gateways 则可能由 CPU 或 CPU+加速器协同处理；底层 OS、容器与固件运行于 CPU + Accelerator 组合之上。网络与子网层则负责连接各节点。这种分层设计凸显了 CPU 在非推理环节的核心地位——当模型推理由 GPU/NPU 加速时，CPU 成为系统吞吐与响应稳定性的关键瓶颈。

为解决评估难题，Arm 提出两种互补测量路径：组件级基准测试（Component Benchmarking）强调可复现性与归因能力，例如单独测试工具调用延迟、状态同步开销或策略检查耗时；端到端基准测试（End-to-End Benchmarking）则聚焦任务完成率、平均响应时间与并发任务数等真实业务指标。特别值得注意的是，该框架推荐采用“可回放的智能体轨迹”（Replayable Agent Trajectories）技术，通过固定初始状态与随机种子，消除智能体行为的非确定性干扰，从而将 CPU 性能影响从模型推理与网络抖动中剥离出来。

这一方法论已获得富士通、Meta 与 OpenAI 的初步支持。据 Signal65 实测数据，在工具调用与任务编排密集型负载下，Arm 新一代 AGI CPU 相较于 AMD EPYC Turin 系列在每瓦性能与低延迟响应方面展现出优势；而在需要强推理耦合的场景中，集成 GPU 的 AMD 配置仍具竞争力。这印证了智能体工作负载的异构性——没有单一最优架构，只有适配特定任务模式的最佳组合。

与此同时，硬件厂商正加速推出针对性解决方案。2026 年 10 月，AMD 正式发布 Helion 架构，定位为“机架级智能体 AI 计算平台”。该方案基于 Open Compute Project（OCP）规范，提供两种部署形态：纯 CPU 配置适用于超大规模数据中心的轻量级智能体集群；CPU+GPU 集成配置则面向企业级复杂工作流。Helion 的核心创新在于内置“令牌路由”（Token Router），可动态调度智能体请求至前沿闭源模型或开源模型，实现成本与性能的灵活平衡。

AMD Compute and Enterprise AI 高级副总裁 Dan McNamara 指出：“智能体不是单一工作负载，它涵盖个人助理、企业应用、代码执行与跨系统协作，每种需求对计算资源的密度、性能与功耗提出不同要求。”Helion 正是为应对这种碎片化需求而生——客户可根据智能体类型自主选择 CPU 核心密度、频率与功耗预算，并与 GPU 加速单元按需组合。

基础设施层面的变化同样显著。智能体本质上是“持久化虚拟用户”，其长期在线、高频交互的特性对数据中心提出了新挑战：内存带宽需支撑持续上下文驻留，存储 I/O 要应对频繁的工具调用日志写入，而网络延迟则直接影响多步决策链的时效性。在此背景下，DPU（数据处理器）的角色愈发关键——它可卸载网络、安全策略执行与遥测监控等任务，使主 CPU 专注智能体逻辑执行，形成“CPU 处理业务逻辑，DPU 管理基础设施”的分工范式。

Arm 已在开放计算全球峰会（OCP Global Summit）上推进其 AGI CPU 服务器参考设计向 OCP 社区贡献，Meta 的 Yosemite YV5 机架设计亦已整合 Arm AGI CPU。这意味着智能体专用计算架构正从理论走向标准化落地。值得注意的是，这类设计并非取代现有云原生基础设施，而是叠加在其之上：每一次智能体发起的搜索、服务调用或数据请求，都会触发底层 Kubernetes Pod、数队列操作，从而放大整体云负载。

行业共识正在形成：评估智能体时代 CPU 性能，不能仅看单线程整数性能或浮点峰值，而应关注三类核心能力——

以 a16z 引用的 OpenRouter 数据为例，自 2026 年 2 月起，智能体 Token 使用量增长达 14 倍，表明其实际工作负载规模已进入指数增长阶段。当数亿级智能体同时运行时，即使单个任务仅增加 10% 的 CPU 开销，整体基础设施成本也将显著上升。因此，建立统一、透明、可比的性能评估标准，已成为产业链上下游协同降本增效的前提。

目前，Arm 与 AMD 的举措代表了两种路径：前者侧重方法论与标准共建，后者聚焦产品化与生态适配。二者并不冲突，反而互为补充——只有先定义清楚“什么是好”，才能有效设计“如何做得更好”。随着更多厂商加入讨论，一套面向 Agentic AI 的 CPU 性能评测体系有望在 2027 年初形成初步行业共识。