网通社科技快报

Volantis光芯片突破内存墙 支持20万亿参数大模型

近日,美国人工智能硬件初创公司Volantis宣布其全新AI推理架构A-1取得重大技术突破。该架构采用革命性光互连技术,成功解决长期困扰AI发展的内存墙问题。A-1架构单节点内存容量高达10TB,带宽突破240TB/s,远超现有高性能内存(HBM)的水平,为处理超大规模深度学习模型提供了坚实基础。

Volantis的A-1架构能够支持超过20万亿参数的大规模AI模型,同时保持每用户10000Token/s的超高推理吞吐量。与当前主流的Mythos/Fable等5万亿参数级模型相比,A-1在内存容量、带宽和能效比方面均展现出显著优势。系统通过光信号传输替代传统电信号传输,有效克服了电子互连在高频下的信号衰减和延迟问题,每个光互连通道带宽达到24Gb/s,多通道并行工作实现总带宽240TB/s。

从技术原理来看,A-1架构的核心创新在于将大量内存单元整合为统一的内存池,不仅突破了传统内存架构的带宽限制,还显著降低了系统的体积和功耗。数据显示,A-1的单bit能耗远低于1pJ/bit,仅为现有解决方案的千分之一左右,能效比提升了两个数量级。

业界专家认为,Volantis的技术突破可能重新定义AI硬件的发展方向。随着大模型参数量的持续增长,传统的内存架构已经难以满足需求,而光互连技术为代表的新型硬件方案正在成为新的发展方向。这项技术不仅解决了当前的技术瓶颈,也为应对未来的市场需求提供了新的解决方案。

Volantis计划于2027年向客户交付首批集成推理引擎,届时将有机会验证其技术的实际效果。如果测试结果符合预期,这将标志着AI硬件领域的一次重大革新,为未来更大规模的模型训练和推理提供新的可能性。