高通徐晧,端侧AI架构创新,从智能体需求驱动硬件升级

在2026年世界人工智能大会(WAIC)的"端侧AI创新和行业发展论坛"上,高通公司全球副总裁、中国区研发负责人徐晧博士发表了题为《智能体AI时代:计算架构与模型效率的持续创新》的主题演讲。作为IEE...

人工智能

在2026年世界人工智能大会(WAIC)的"端侧AI创新和行业发展论坛"上,高通公司全球副总裁、中国区研发负责人徐晧博士发表了题为《智能体AI时代:计算架构与模型效率的持续创新》的主题演讲。作为IEEE Fellow,徐晧博士深入探讨了端侧AI技术的发展趋势及其对终端计算架构带来的深远影响。

徐晧博士指出,当前智能手机等终端设备的使用场景已从最初的单轮对话,逐步演进至多轮交互,并最终迈向智能体调度阶段。这一转变带来了显著的计算需求变化:设备所需的Token处理量正以十倍量级递增,从一万、十万到百万级不等。例如,在手机端运行龙虾或智能体时,所需处理的Token数量非常庞大。为此,高通针对持续运行始终在线工作负载、持续的传感器数据处理以及系统性协同需求,面向智能体AI打造新一代设备架构。

"端侧AI应用拥有非常广阔的前景,"徐晧博士表示,"这不仅体现在手机领域,还包括智能耳机、数据中心等多种终端品类。高通的不同硬件平台可以为这些智能终端提供全面支持。"

为了应对日益增长的端侧AI计算需求,高通提出了一个全新的设备架构框架。该架构围绕四个核心模块构建:持续运行的始终在线工作负载、传统的传感器数据处理、系统性协同需求以及面向智能体AI的新一代设备架构。徐晧博士特别强调了三个关键的设计难点:

  • 任务规划:通过全新的CPU实现出色的任务规划和控制能力。
  • 传感器处理:开发低功耗传感器中枢,能够有效处理和融合大量传感器数据,精确感知环境并为智能体提供决策信息。
  • 模型运算:利用NPU的强大张量计算能力,优化适配2B到3B量级的模型,确保其在端侧的流畅运行。
  • 此外,高通还注重无线连接功能的提升,以支持端侧、云端和边缘云的协同处理。随着越来越多的模型迁移到端侧运行,5G或6G连接将成为实现无缝协作的关键。

    "我们已经完成了从感知AI到生成式AI再到智能体AI的迭代,"徐晧博士补充道,"下一阶段我们将重点推进物理AI,实现从小模型向多功能大模型的转变。"

    在算法层面,高通也进行了多项创新,包括模型压缩和量化、长上下文处理和增强,以及端侧模型的不断学习(on device learning)。同时,高通正在从汽车芯片向机器人芯片领域拓展,致力于将二维规划升级为对三维真实世界的理解,并针对更多复杂应用场景进行优化设计。

    徐晧博士还透露,高通与面壁智能等合作伙伴在手机和车载等领域已有深度合作,并期待未来联合开发更多创新解决方案。

    图片

    这张图片展示了高通面向智能体AI的新一代设备架构,清晰地呈现了其核心组件和设计理念,直观地反映了徐晧博士演讲中所强调的技术方向。