AMD收购AI推理芯片初创Taalas，强化数据中心AI竞争力

近日，全球领先的半导体公司AMD正式宣布收购位于多伦多的AI推理芯片初创公司Taalas。这家成立于2023年的公司由前Tenstorrent首席执行官Ljubisa Bajic 创立，其核心技术在于将AI模型权重直接蚀刻到硅片中，而非依赖传统的高带宽内存（HBM）存储方式。这一创新架构为AI推理性能带来了革命性的提升。

Taalas的技术路线与当前主流的GPU以及Groq、Cerebras等数据流架构截然不同。其芯片设计摒弃了对HBM的依赖，而是通过将模型权重直接固化在硅片上，形成所谓的模型专用集成电路（ASIC）。这种设计不仅减少了数据传输延迟，还大幅降低了功耗。据AMD透露，Taalas团队，包括Bajic本人，将加入AMD AI部门，由高级副总裁Vamsi Boppana领导。

在AI推理领域，Taalas的技术优势主要体现在两个方面：首先是性能上的突破。今年2月发布的首款测试芯片HC1采用台积电6纳米工艺制造，初步测试显示，该芯片运行Meta的Llama 3.1 8B模型时速度达到每秒16960个token，这一成绩是当时英伟达GPU的48倍，也是Cerebras加速器的8.5倍。尽管Llama 3.1已不是最新模型，但HC1的成功验证了Taalas技术的可行性。

其次是能效比的显著提升。由于模型权重被直接蚀刻进硅片，Taalas芯片无需频繁访问外部存储器，从而大幅降低了功耗。AMD计划在今年夏季推出第二代HC2芯片，目标将单芯片支持的参数量提升至200亿。虽然这一数字看似有限，但通过流水线并行技术，多个加速器可以协同工作，仅需50颗加速器即可支持万亿参数级别的大模型。相比之下，英伟达近期推出的LPX系统运行同等规模模型需要数十颗GPU和至少2000颗Groq LPU，Taalas方案在空间占用和功耗效率方面具有明显优势。

AMD人工智能高级副总裁Vamsi Boppana表示，此次收购是AMD构建全栈式AI平台的重要一步。AMD计划将Taalas的技术与其Instinct系列的Helios机架式计算平台相结合，形成一种分离式架构：计算密集型的提示词处理任务由GPU负责，而token生成等推理任务则卸载到Taalas加速器上。这种混合架构不仅提高了系统的灵活性，还能根据不同的AI工作负载选择最合适的计算解决方案。

从应用场景来看，Taalas的技术特别适合AI模型开发商、基础设施提供商和部分推理服务商。Taalas此前曾表示，将模型权重蚀刻进硅片的成本比训练前沿模型低100倍。AMD目前与OpenAI、Anthropic和Meta等主要模型厂商保持着密切合作关系，未来看到GPT或Claude系列模型部署在Taalas与Instinct混合架构上并不令人意外。

然而，这项技术也存在明显的局限性。由于模型权重被固化在硅片中，一旦芯片部署完成便无法更换模型，任何超出LoRA适配器规模的改动都需要重新流片，不仅成本高昂而且周期较长。在AI模型几乎每月都有新版本推出的当下，这意味着采用Taalas技术的客户必须对模型选择有充分把握。Taalas方面则表示，虽然新模型确实需要重新流片，但无需从头开始，只需更改两层金属层即可，成本和周期都大幅降低。

值得注意的是，此次收购正值AI芯片市场竞争加剧之际。就在七个月前，NVIDIA以200亿美元收购了高性能AI芯片设计公司Groq。AMD此次收购Taalas，不仅是对自身产品线的补充，更是对市场格局的一次重要调整。AMD CEO Lisa Su表示，尽管GPU仍将占据AI芯片市场的主要份额，但公司正在整合Taalas的技术，以增强其产品线。

展望未来，随着AI应用的不断扩展，对高效能、低功耗AI推理芯片的需求将持续增长。AMD通过此次收购，不仅获得了Taalas的核心技术，还引入了经验丰富的团队，这将有助于公司在激烈的市场竞争中保持领先地位。