网通社科技快报
高通联合三方在进博会演示300亿参数端侧MoE智能体
11月7日,第九届中国国际进口博览会上,高通联合阶跃星辰、Infris AI与江波龙推出端侧MoE智能体Demo,首次在智能手机本地完整运行300亿参数混合专家模型,完成用户意图识别、多步骤任务规划及跨应用调用等系统级操作。该方案依托MoE架构,推理时仅激活2–3个专家子模块,显著降低计算负载与内存占用(降幅超50%),Prefill阶段达330TPS,Decode阶段提速超28TPS。技术分工明确:阶跃星辰优化任务规划能力,Infris AI开发专家预测与预取算法,江波龙提升UFS至内存带宽效率,高通统筹骁龙平台调度与能效管理。Demo全程离线运行,支持如‘处理待办→同步日历→预订会议室→发送邮件’等复合流程,保障隐私与实时性。此举呼应工信部近期将预置智能体终端纳入进网监管的政策导向,契合‘端侧优先、云端用完即删’的安全原则。行业共识认为,终端AI竞争已转向生态协同能力,涵盖模型、芯片、存储与系统层整合。该技术路径尚未商用,但为手机、汽车座舱、PC及AR眼镜等多终端智能体落地提供关键参考,推动端侧AI向‘可信自主性’演进。