Token用量两年暴涨5000倍,企业Agent落地为何仍卡在连接与成本关?

我国日均Token调用量从2024年初的1000亿增至2026年7月超50万亿,增长超5000倍,标志AI进入生产级应用阶段。但企业Agent落地仍面临三大断点:业务上下文连接不足、数据贯通难、推理成...

人工智能

2024年初,国内日均AI Token调用量约为1000亿;到2026年7月,这一数字已突破500万亿——两年间增长超5000倍。国家数据局披露的这组数据,直观反映出大模型应用正从“尝鲜式试用”快速迈入“生产级部署”阶段。过去企业用AI写文案、答问题,属于轻量级提效;如今海量Token消耗背后,是客服、研发、运营等核心业务流程中AI Agent的深度嵌入。

然而,用量激增并未自动转化为价值兑现。在10月29日举行的2026腾讯全球数字生态大会上,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生指出:当前企业Agent落地的核心瓶颈,已不再是技术可行性,而是“连接”的缺失——人、工具、系统与数据之间尚未形成闭环协同。

一、连接断点:Agent难以理解真实业务语境

多数企业部署的Agent仍停留在“问答机器人”层面:输入问题,返回答案。但真正的智能体需嵌入工作流,在具体业务上下文中主动决策、调用工具、生成结果。例如,销售Agent不仅应能查询客户历史订单,还需结合CRM更新状态、触发合同审批、同步财务开票——这要求它理解组织架构、权限规则与流程节点。

汤道生将此归结为“上下文断裂”。为解决该问题,腾讯云推出WorkBuddy开放架构,允许企业自由组合自研Agent、第三方Agent及主流IM系统(如企业微信、钉钉),不再绑定单一模型或平台。“选择权交还企业”,意味着Agent网络可按实际业务需求动态拼装。配套发布的Buddy One一体化套件,则进一步整合腾讯会议、文档、网盘等工具至统一账号体系与上下文池,实现跨应用信息无缝流转。

二、数据断点:Agent“读不懂”企业知识库

应用层的开放若缺乏数据支撑,仍属空中楼阁。企业内部存在大量非结构化数据(合同、邮件、会议纪要)与异构系统(ERP、MES、BI),传统检索方式难以被Agent有效利用。

腾讯云在数据板块构建了一条“懂—存—跑—自治”链路:

  • TDSQL Nexa Lakebase作为AI原生多模数据库,承担“懂”的角色,通过Knowledge模块建立企业专属语义层,将原始数据转化为Agent可理解的向量与关系图谱;
  • TDSQL Boundless解决“存”的问题,一套内核支持事务处理、宽表存储、分析计算与语义检索,避免数据孤岛;
  • TDSQL-C PostgreSQL提供弹性隔离的后端服务,保障Agent高频调用时的稳定性;
  • TencentDB Agent则封装DBA经验为Skill,使Agent具备自主运维能力,如自动索引优化、慢查询诊断。

这套组合并非简单堆砌产品,而是围绕“让Agent真正读懂业务”设计的数据基础设施重构。语义层的存在尤为关键——它使Agent无需反复微调即可适应新业务场景,降低持续训练成本。

三、成本断点:Token暴涨推高推理开支

当Agent从单点任务扩展为全流程自动化,其资源消耗呈指数级上升。Gartner测算显示:一个基础聊天机器人完成某任务成本约0.01美元,而同等任务由具备推理能力的Agent执行,成本可达1.50美元;后者平均多消耗5–30倍Token。

更严峻的是趋势预判:到2028年,单个Agent工作流的AI推理成本可能较当前增长5倍以上。企业正从“用最强模型”转向“用对模型”——即根据任务复杂度动态调度不同规模模型,例如用小模型处理工单分类,大模型负责合同条款生成。

汤道生将工程侧关键词定为“高效能”,强调需在性能与成本间取得平衡。腾讯云推出的Agent Engine与Managed Harness,正是为此设计:前者提供任务编排与模型路由能力,后者实现资源弹性伸缩与计费精细化管理,帮助企业将Agent运行成本控制在可接受区间。

四、安全边界:Agent越能干,风险越隐蔽

随着Agent接入更多系统与数据,其行为不可控性显著提升。一次错误指令可能导致数据库误删、权限越权或敏感信息外泄。安全已非附加项,而是Agent架构的底层约束。

Agent Runtime全新升级架构图:进化域、治理域、运行域三层体系

腾讯云在安全板块提出双轨策略:

  • 攻防层面:新一代云安全中心整合主机、容器与云态势管理,实现主动防御;无境平台以AI驱动渗透测试,单站验证平均耗时91分钟,成本仅百元级,大幅降低企业安全验证门槛;
  • 业务层面:天御风控Agent嵌入对话流,在用户交互中实时分析黑灰产行为特征,动态调整风控策略,实现“边用边防”。

值得注意的是,安全设计不再局限于事后拦截,而是前置到Agent决策链中——例如在调用外部API前自动校验权限、在生成内容时插入合规检查点。

落地挑战仍在,但路径日渐清晰

Token用量5000倍的增长,印证了企业对AI的迫切需求;而落地卡点的集中暴露,也标志着行业进入深水区。当前阻碍并非技术空白,而是系统性集成难题:如何让Agent既“聪明”又“可靠”,既“能干”又“可控”,既“高效”又“经济”。

腾讯云提出的“全场景、高效能、更放心”框架,实质是将Agent从孤立功能模块升维为组织级基础设施。其价值不在于单点创新,而在于通过应用开放、数据语义化、安全内建与工程优化四维协同,为企业提供可规模化部署的Agent生产力底座。

文章配图

未来半年,行业焦点或将从“能否做出Agent”转向“能否管好、用好、算清账”。当企业开始为每个Agent工作流做ROI核算时,真正的智能化转型才算真正启程。