高通进博会展示端侧MoE智能体，300亿参数模型在手机本地运行任务编排

11月7日，第九届中国国际进口博览会上，高通公司AI产品技术中国区负责人万卫星现场演示了一项关键进展：端侧MoE（Mixture of Experts，混合专家）智能体在智能手机上的完整落地。该Demo由高通联合阶跃星辰、Infris AI与江波龙共同开发，首次在手机端实现300亿参数规模的混合专家模型全流程本地运行，完成包括用户意图识别、多步骤任务规划、跨应用调用在内的系统级操作——这被视为终端侧AI从“单点响应”迈向“主动服务”的重要转折点。

过去三至四年间，终端侧AI已从影像处理延伸至语音转录、实时翻译、图像生成等多模态场景，但多数仍停留在“指令-响应”式的单点功能层面。例如，用户说“把这张图转成PPT”，设备可调用文生图或OCR模块完成局部任务；但若用户说“帮我准备下周会议材料，整合邮件摘要、日程安排和最新行业报告”，现有端侧模型往往无法自主拆解目标、协调多个工具、并动态修正执行路径——这正是智能体（Agent）区别于传统AI应用的核心能力。

根据补充资料，智能体具备目标驱动、工具调用、记忆存储与自我反思四层架构，其开发重点不在模型调用本身，而在于任务编排、风险熔断与行为约束的工程实现。高通此次展示的Demo正聚焦于此：它能在无网络依赖下，本地模拟完成“处理待办事项→同步日历→预订会议室→发送确认邮件”等复合流程，全程不上传原始数据，保障隐私与实时性。

实现这一能力的关键技术突破在于MoE架构的应用。传统Dense模型需全量加载参数，受限于手机内存与功耗，目前端侧主流部署规模为20亿至30亿参数；而MoE将300亿参数划分为多个“专家”子模块（如20个），推理时仅激活2–3个相关专家，大幅降低单次计算负载。万卫星以厨师类比：Dense模型像一位全能厨师包揽所有菜系，MoE则如多位专精不同菜系的厨师，按需调度，既提升能力上限，又控制资源消耗。

然而，MoE在端侧部署面临新挑战：如何快速预测并预取所需专家？如何优化从UFS闪存到内存的数据加载效率？高通团队的协作分工清晰体现了系统级优化思路：阶跃星辰负责提升模型推理智能与任务规划能力；Infris AI开发专家模块的预测与预取算法；江波龙针对存储链路进行UFS→内存带宽优化；高通则在骁龙平台层面统一调度路由、缓存预测与能效管理。据现场展板信息，该方案Prefill阶段速度最高达330TPS，Decode阶段提速超28TPS，整体内存占用降低50%以上。

值得注意的是，此次演示并非孤立技术秀，而是呼应了近期政策与产业趋势的协同演进。2026年11月初，工业和信息化部发布《关于加强智能体终端设备进网管理的通知》，首次将预置智能体的手机、平板等终端纳入电信设备进网监管体系，明确要求适配验证、安全评估、唯一身份标识、OTA升级报备等全链条合规机制。新规直指当前智能体落地的核心痛点：在开放终端环境中，面对模糊指令与异构App界面，如何避免幻觉传导、误操作与权限越界。

中关村现代信息消费应用产业技术联盟理事长项立刚指出，终端智能体相当于为云端大模型“接上手和脚”，最大难点在于“开放环境下的可靠性”。他强调应坚持“端侧优先、云端用完即删”原则，并推动第三方安全审计成为入网强制标准。高通所展示的本地化任务执行路径，恰好契合这一监管导向——通过端侧完成高敏感度操作（如调用日历、邮件），仅在必要时向云端请求补充知识，既保障用户数据主权，又满足功能完整性。

从技术路线看，端侧智能体的发展并非要取代云端，而是构建“计算连续体”：云端作为通用知识库处理复杂推理与训练更新，端侧则基于用户身份、位置、行为习惯等个性化上下文，提供低延迟、高隐私的主动服务。万卫星举例称，当用户进入机场时，端侧智能体可结合历史出行偏好、航班状态与本地服务接口，自动提醒值机时间、推送登机口变更、甚至预约接驳车——这类服务无需持续联网，却高度依赖对个体情境的理解。

行业共识正在形成：终端AI的竞争已超越单一芯片或模型参数的比拼，转向生态协同能力。模型厂商提供智能内核，芯片平台保障算力与能效，存储与系统厂商优化数据通路，终端品牌掌控用户入口与场景定义，开发者则覆盖长尾应用需求。高通此次联合三方完成端侧MoE Demo，正是这种协作范式的具象体现。

展望未来，万卫星表示，此类意图理解与任务编排能力有望逐步扩展至手机、汽车座舱、PC及AR眼镜等多类终端。随着硬件迭代与软件栈成熟，端侧智能体将从“能做”走向“可靠做”——而监管框架的同步完善，正为这一进程提供制度保障。在功能创新与安全合规并重的背景下，终端AI的下一阶段竞争，或将聚焦于“可信自主性”的工程实现能力：如何在赋予设备更多主动性的同时，确保每一步操作可解释、可追溯、可干预。

目前，该Demo尚未商用，但其技术路径已为行业提供明确参考。对于终端厂商而言，能否整合模型、推理、存储与系统层的协同优化，将成为下一代智能设备差异化竞争的关键支点。