智能体AI崛起,基础设施关注焦点从Token转向任务
在2026年被视为"智能体之年"的背景下,人工智能技术正经历从模型能力向应用场景的深刻转变。这种变革不仅体现在技术层面,更对整个AI基础设施体系提出了全新要求。从世界智能人工大会(WAIC 2026)...
在2026年被视为"智能体之年"的背景下,人工智能技术正经历从模型能力向应用场景的深刻转变。这种变革不仅体现在技术层面,更对整个AI基础设施体系提出了全新要求。从世界智能人工大会(WAIC 2026)到近期举办的财新圆桌AI系列研讨会,业界普遍认为,智能体AI正在重塑基础设施的关注焦点,推动终端产业进入价值重塑的新阶段。
传统AI基础设施主要围绕模型执行效率构建,衡量标准包括预填充速度、解码性能、每秒生成Token数等指标。然而,随着智能体AI的兴起,系统的关键路径已不再局限于模型本身的运行。IDC中国副总裁王吉平指出,智能体工作流可能涉及任务规划、上下文检索、状态管理、工具与API调用、沙箱运行、结果验证等多个环节,最终输出可能是答案、代码变更、数据库查询或物理世界的行动指令。这意味着,智能体AI让推理演变为一个分布式系统问题,GPU在高强度模型执行中依然不可或缺,但围绕GPU展开的工作正日益成为系统性能的决定性因素。
在这种背景下,CPU的作用得到显著提升。Arm公司全球AI解决方案负责人表示,Arm AGI CPU的设计正是为了应对AI从Token处理向任务交付的转变,其强大的多核处理能力和低功耗特性能够有效支持智能体所需的复杂协调工作。同时,高性能、低功耗的异构计算架构以及跨设备连接能力也成为支撑智能体规模化应用的重要基础。
高通公司持续关注智能体对终端产业的影响,其委托IDC发布的《从AI设备到个人AI:智能体驱动的终端进化与产业重构》白皮书指出,以用户为中心的个人AI体验正在成为厂商发展的破局点。无论是跨应用任务执行、智能体原生系统,还是更具沉浸感和主动服务能力的新型交互形态,这些创新背后都离不开端边云协同的分布式计算架构、全时感知与自然交互、端侧算力与个人记忆、安全可信与隐私保护、连续计算与跨端协同等四大技术支柱的支持。