AxeleraAI发布第三代Titania芯片架构，采用Chiplet设计实现高能效推理加速

Axelera AI 近日正式公开其第三代人工智能硬件加速架构——Titania。作为一家专注定制化 AI 加速芯片的企业，Axelera 此次发布的 Titania 并非单一芯片，而是一套以 chiplet（芯粒）为基本单元构建的系统级解决方案，旨在突破当前高性能 AI 推理对超高功耗与液冷基础设施的依赖。

Titania 架构的核心在于其模块化设计：每个系统级封装（SiP）集成两颗 Titania 芯粒，通过先进封装技术实现高带宽互连。该架构面向大模型推理场景优化，强调“高可编程性”与“高能效比”，目标是在标准风冷数据中心机架的功率与散热约束下，提供接近交互式响应速度的推理性能——这与当前顶级 GPU 需要 100 千瓦以上液冷机柜形成鲜明对比。

从技术细节看，Titania 采用第三代 D-IMC（Distributed In-Memory Compute）架构，每颗芯粒包含 64 个 AI Core，总计 128 个 AI Core 分布于两个 chiplet 上；同时集成 32 个 RISC-V 计算核心，用于卸载主机 CPU 的业务逻辑任务。内存子系统配置 128 GB LPDDR6，带宽达 2,458 GB/s 每 SiP，支持从单批次到大规模批量推理的连续处理，避免因内存带宽瓶颈导致的吞吐下降。

在计算单元层面，Titania 的 AI Core 专为稀疏模型与混合专家（MoE）结构优化，支持 MXFP4 与 MXFP8 数据格式，适配当前主流大语言模型的权重分布特性。其片上视频编解码模块（AV1/H.265）独立运行，不占用主计算资源，适用于多模态推理场景。此外，架构内置 UCIE（Universal Chiplet Interconnect Express）接口，便于未来扩展异构芯粒或连接其他加速器。

性能与成本方面，Axelera 宣称 Titania 在推理吞吐量/瓦特（throughput per watt）指标上可达现有最佳数据中心级服务器的 7 倍；综合考虑硬件采购、电力、冷却与运维开销后，总拥有成本（TCO）有望降低至前者的 1/20。这一数据虽为预期值，但指向一个明确趋势：在生成式 AI 推理负载持续增长的背景下，专用硬件正从“性能优先”转向“能效与部署友好性并重”。

部署形态上，Titania 将以多种物理形式落地。基础版本为标准 PCIe 插卡，便于集成至现有服务器平台；更高级形态则采用 OCP（开放计算项目）兼容的 UBB（Universal Baseboard）底板，单块底板可容纳 8 个 Titania OAM（OCP Accelerator Module）模块，并通过片上 Scale-Up Fabric 实现高速互联，构成可横向扩展的推理集群。这种设计兼顾了边缘推理节点的紧凑性与云数据中心的规模化需求。

值得注意的是，Axelera 已获得超过 3 亿美元的 Titania 系统订单承诺，客户包括多家 OEM 合作伙伴。这些系统将首先以推理服务器配置推出，支持风冷与液冷两种散热方案，表明其产品路线图已进入商业化落地阶段。

行业背景来看，当前 AI 推理市场正经历结构性变化。训练环节仍由 NVIDIA GPU 主导，但推理环节因模型轻量化、服务化部署需求激增，催生了大量专用加速芯片厂商。除 Axelera 外，Groq、SambaNova、Cerebras 等公司均推出针对推理优化的架构，核心竞争维度已从峰值算力转向单位功耗下的有效吞吐、延迟稳定性与部署灵活性。

尤其在大型语言模型进入“应用层爆发”阶段后，企业级用户更关注推理服务的可持续性与 ROI。例如，一个日均处理百万级请求的客服对话系统，若将推理延迟控制在 200ms 以内且单请求能耗低于 1 焦耳，其长期运营成本将显著优于依赖高功耗 GPU 的方案。Titania 所强调的“在现有数据中心基础设施内运行”，正是直击这一痛点。

从芯片设计范式看，Titania 的 chiplet 方案也反映了行业共识：单一大芯片面临良率、成本与制程瓶颈，而模块化集成可提升设计复用率、缩短迭代周期。例如，其 RISC-V 核心与 AI Core 可独立升级；内存接口（LPDDR6）亦可随行业演进替换为更新标准。这种“软硬协同+模块解耦”的思路，与 Intel 的 Foveros、AMD 的 3D V-Cache 技术路径一致，但聚焦于 AI 推理垂直场景。

不过，挑战依然存在。首先，生态适配是关键门槛。尽管 Titania 支持主流框架（如 PyTorch、TensorRT），但要实现与 CUDA 生态同等程度的开发者友好性，仍需时间积累工具链与社区支持。其次，实际部署中的网络拓扑效率、多节点调度延迟等系统级问题，尚待大规模实测验证。

目前，Axelera 尚未公布具体流片时间与量产节点，但结合其已获订单规模及 OEM 合作节奏，业内推测首批 Titania 系统有望于 2025 年下半年投入商用。若其能兑现宣称的能效与成本优势，或将推动更多企业从“GPU 通用推理”转向“专用加速器+CPU 协同”的混合架构模式。

专用 AI 加速芯片的发展，不再仅是算力竞赛，而是系统工程的较量。Titania 的发布，标志着在推理侧，能效比与部署兼容性正成为新一代硬件架构的核心评价指标。