Gartner预测AI Agent成本2028年前将上涨五倍

Gartner最新报告警示，AI Agent的实际运营成本正快速上升，预计到2028年将增长五倍，远超token价格下降带来的表观利好。该趋势源于Agent需多次调用模型、协调外部API、维护会话状态及处理错误重试，整体资源消耗显著高于单次推理。例如典型客服场景中，一次用户交互可能触发3–5次模型调用与2–3个API请求，延迟与计算开销大幅增加。Gartner高级研究总监Will Sommer强调，企业常误将token成本等同于总拥有成本（TCO），忽视了架构层面的隐性开销，尤其在高并发下状态管理与工具协调推高运维支出。为应对压力，部分企业转向轻量级Agent+规则引擎混合架构，或采用专用小模型处理高频任务；某银行通过意图预判与缓存复用，使单次会话模型调用次数从4.2次降至2.1次，成本降45%。同时，行业面临AI基础设施投资过热风险：截至2030年全球投入或超3.5万亿美元，而AI应用总收入仅约3.6万亿美元，资产减值压力凸显。Gartner建议企业建立Agent级成本监控仪表盘、对非核心流程实施降级策略，并优先部署于高价值场景。技术层面，LangChain等主流框架仍依赖串行调用与中心化状态管理，业界正探索Agent编译器与状态压缩中间件等优化路径；英伟达Blackwell架构已加入Agent专用调度单元，AWS推出带缓存的无服务器函数支持。2026–2027年是成本管控关键窗口期，能否构建轻量化、可伸缩的Agent体系，将决定企业下一阶段竞争力。