AsteraLabs发布Orion架构，支持GPU与CPU自由组合的机架级AI基础设施

Astera Labs近日正式发布Orion架构，这是一种面向大规模AI推理场景的机架级参考设计方案。该架构核心特点是“计算无关”——即不绑定特定厂商的GPU或CPU，客户可依据自身工作负载需求灵活搭配不同加速器与处理器平台，再通过Astera提供的标准化高速互联模块实现统一调度与低延迟通信。

Orion并非单一硬件产品，而是一套由Astera Labs联合ODM与OEM合作伙伴共同推进的生产级参考设计。其目标是将传统高度定制化、厂商锁定的AI机架系统，转变为基于开放标准的模块化基础设施。在这一框架下，机架内部各计算节点之间通过Astera自研的CXL（Compute Express Link）和PCIe扩展芯片实现高带宽、低延迟互连，从而支撑跨异构芯片的高效协同。

当前AI基础设施部署面临两大现实瓶颈：一是客户需在硬件选型尚未明确前就提前锁定整套系统配置，导致资本投入风险高；二是服务器厂商每次适配新型加速器时，都必须重复完成复杂的集成验证与软件栈适配工作，拖慢交付周期。Orion试图从架构层面缓解上述问题。

以主流AI推理场景为例，企业可能需要在NVIDIA H100、AMD MI300X或未来国产加速器之间做权衡，同时搭配Intel Xeon或AMD EPYC等通用CPU。过去，每种组合都需要独立开发主板、散热、供电与固件方案，成本高昂且周期漫长。而Orion通过定义统一的物理接口、电气规范与管理协议，使不同计算单元能像“乐高积木”一样插拔组合，大幅降低系统集成复杂度。

Astera Labs强调，Orion的设计初衷并非取代现有AI服务器，而是为新云服务商（neoclouds）与大型企业用户提供一种更敏捷、更具成本效益的部署路径。尤其在推理服务需求激增但模型迭代加速的背景下，基础设施的“解耦”能力变得愈发关键。据公司介绍，该架构已进入与头部ODM合作的工程验证阶段，预计2026年内将有首批商用系统落地。

值得注意的是，Orion的出现反映了AI基础设施演进的一个深层趋势：从“单点性能竞赛”转向“系统级协同效率”。过去几年，行业焦点集中在GPU算力提升（如H100的FP8精度、MI300X的Chiplet封装），但随着大模型推理逐渐成为主流负载，系统瓶颈更多出现在数据搬运、内存带宽与跨节点同步上。CXL技术的成熟为此类解耦架构提供了底层支撑——它允许CPU直接访问GPU显存、GPU间共享缓存，甚至将NVMe SSD纳入统一内存池，从而减少数据复制开销。

Astera Labs此前已在CXL交换芯片领域积累优势，其AIC-100系列芯片已用于多家超大规模数据中心的AI训练集群。此次Orion架构可视为其技术能力向推理侧延伸的关键一步。与之对比，传统OEM厂商如戴尔、浪潮仍主要依赖NVIDIA的NVLink-C2C或AMD的Infinity Fabric构建封闭系统，虽性能优异但缺乏灵活性。

在产业生态层面，Orion也呼应了近年来Open Compute Project（OCP）推动的“开放AI机架”倡议。OCP于2023年发布的AI Rack Specification v1.0已初步定义了机架内互联、电源与管理接口标准，但尚未解决异构计算单元的即插即用问题。Astera的方案在OCP框架基础上进一步细化了芯片级互联协议，有望成为事实上的补充标准。

不过，该架构的实际落地仍面临挑战。首先是软件栈适配：即便硬件可自由组合，操作系统、驱动、推理框架（如TensorRT、vLLM）仍需针对不同GPU/CPU组合进行优化。其次，CXL 3.0虽已发布，但支持该协议的主流CPU与GPU仍有限，短期内兼容性可能受限。此外，对于追求极致性能的训练集群，专用互联（如NVLink）在带宽与延迟上仍有优势，Orion更适合中大规模推理场景。

行业观察指出，类似思路已在其他领域初现端倪。例如，Google的TPU Pod v4采用自定义光互联+统一管理平面，虽未完全开放，但同样强调“计算与互联分离”；Meta的Zephyr项目则尝试用FPGA实现可重构互联层。Astera的差异化在于聚焦CXL生态，并以芯片级方案提供量产可行性。

从更宏观视角看，AI基础设施正经历从“垂直整合”到“水平分层”的结构性转变。上游芯片厂商专注算力单元，中游互联芯片厂商（如Astera、思科、Marvell）提供“粘合剂”，下游系统集成商负责组装与交付。这种分工有利于降低创新门槛，加速新技术导入周期。

与此同时，AI评测体系也在同步演化。近期MIT CSAIL联合多所高校推出的Artifact Arena评测系统，不再依赖传统题库打分，而是让大模型自主设计虚拟机器人并进行物理仿真对抗，最终以Elo积分排名。结果显示，OpenAI的GPT-6 Astra以1539分位居榜首，Anthropic的Claude Fable 5.1与谷歌Gemini 3.8 Flash分列二、三位。该方法强调模型在未知环境中的问题建模与执行能力，而非记忆性知识复现，反映出业界对“真实任务解决能力”的重视上升。

两类进展看似无关，实则同源：前者解决“硬件如何高效运行AI”，后者解决“AI本身如何可靠产出结果”。当基础设施的灵活性提升后，用户将更关注模型的实际效能边界；而当评测转向实战场景，硬件厂商也会更注重支持多样化推理模式（如动态批处理、稀疏激活）的能力。

目前，Astera Labs尚未公布Orion的具体性能指标或合作客户名单，但其技术路线已引发产业链关注。有分析认为，若该架构能在2026年实现千台级部署，将推动CXL在AI推理领域的渗透率从当前不足5%提升至20%以上。

可以确定的是，在AI从“训练密集型”转向“推理普惠化”的进程中，基础设施的开放性与适应性正成为新的竞争焦点。Orion未必是终极答案，但它提供了一种可行路径：让算力选择回归用户，而非被硬件厂商预设。