AMD收购Taalas,AI推理芯片赛道加速布局,专用芯片挑战GPU性能极限

近日,美国芯片巨头AMD宣布达成协议,收购加拿大多伦多的AI推理芯片初创公司Taalas。这一交易虽然未披露具体金额,但据公开信息显示,Taalas自2023年成立以来已累计获得2.19亿美元融资,显...

人工智能

近日,美国芯片巨头AMD宣布达成协议,收购加拿大多伦多的AI推理芯片初创公司Taalas。这一交易虽然未披露具体金额,但据公开信息显示,Taalas自2023年成立以来已累计获得2.19亿美元融资,显示出资本市场对AI推理芯片赛道的高度关注。

与传统的通用GPU不同,Taalas开发的是针对单一AI模型进行硬件固化的专用加速器。该公司首席执行官柳比萨·巴伊奇表示,这种设计虽然牺牲了运行不同模型的灵活性,但能够显著降低成本,并针对特定模型实现比传统GPU快数千倍的推理速度。根据Taalas公布的数据,其首款HC1芯片在运行Meta的小型Llama 3.1模型时,单用户生成速度达到约16960 Token/s,远超NVIDIA Blackwell GPU的400 TPS表现。

图片

AMD此次收购的核心在于强化其在快速增长的AI推理市场的竞争力。随着AI应用从云端向边缘计算延伸,对低延迟、高吞吐量的推理需求日益增加。AMD表示,将把Taalas的技术整合进其加速器路线图,并与Instinct GPU共同开发系统级解决方案,为客户提供差异化的推理性能与能效优势。

"AI时代不存在一种能够满足所有需求的芯片架构,"AMD首席执行官苏姿丰此前曾表示,"不同应用场景需要不同类型的计算方案。"这一战略理念在此次收购中得到了充分体现。通过引入Taalas的专用芯片技术,AMD不仅能够拓展其AI产品线,还能在AI推理领域与英伟达等竞争对手展开差异化竞争。

图片

值得注意的是,此次收购正值全球AI芯片市场竞争加剧之际。今年初,英伟达以200亿美元收购AI芯片设计公司Groq相关资产,而AMD此次收购Taalas,也显示出两大GPU厂商正不约而同地将目光投向AI推理芯片市场。业内分析认为,未来AI芯片的竞争焦点已不再局限于GPU本身,而是围绕训练芯片、推理芯片、CPU、高速互连、存储以及整机系统展开综合能力较量。

"AI推理的速度和成本已经成为行业发展的瓶颈,"阿尔法公社在一篇分析文章中指出,"将模型直接‘刻进’芯片里,是解决这一问题的有效途径之一。"Taalas的技术路线正是基于这一理念,通过硬件固化的方式,大幅降低数据传输延迟,同时提高推理效率。

尽管专用芯片在特定场景下具有明显优势,但其局限性也不容忽视。由于模型权重和部分数据流被直接固化在硬件中,这类芯片难以适应快速迭代的AI模型。为此,Taalas采取了两种应对策略:对于不改变基础模型的调整,HC1芯片保留了一块可编程SRAM用于存放KV Cache;而对于触及基础模型本身的变更,则需要重新流片制造。

"我们正在探索如何在保持高性能的同时,提高芯片的灵活性,"Taalas联合创始人兼CTO张明在接受采访时表示,"未来的芯片设计将更加注重模块化和可重构性。"

此次收购不仅是AMD在AI推理领域的又一重要布局,也是整个AI芯片产业发展的缩影。随着AI应用的不断深化,对高效、低成本的推理解决方案的需求将持续增长。可以预见,未来几年内,AI推理芯片将成为推动人工智能商业化落地的关键力量。