光芯片突破内存墙,VolantisA-1架构支持20万亿参数大模型

美国初创公司Volantis宣布推出全新AI推理架构A-1,采用光互连技术解决内存墙问题。该系统单节点内存容量达10TB,带宽高达240TB/s,可支持超过20万亿参数的大模型,同时实现10000To...

人工智能

在人工智能大模型参数量不断攀升的背景下,内存墙已成为制约算力发展的关键瓶颈。近日,美国一家专注于AI硬件创新的初创公司Volantis宣布取得重大突破,其研发的全新AI推理架构A-1成功解决了这一难题。

根据Volantis发布的消息,A-1架构首次实现了单节点10TB的超大内存容量,并通过革命性的光互连技术将内存带宽提升至240TB/s以上。这种设计使得系统能够支持超过20万亿参数的大规模深度学习模型,同时保持每用户10000Token/s的超高推理吞吐量。与当前主流的Mythos/Fable等5万亿参数级模型相比,A-1的性能优势体现在多个维度:首先是内存容量的显著提升,其次是带宽的跨越式增长,最后是能效比的大幅优化。

"我们面临的挑战不仅是参数量的增加,更重要的是如何在有限的空间内实现海量数据的高速处理。"Volantis首席技术官表示,A-1架构的核心创新在于采用了全新的光互连方案,将大量内存单元整合为一个统一的内存池。这种设计不仅突破了传统内存架构的带宽限制,还显著降低了系统的体积和功耗。数据显示,A-1的单bit能耗远低于1pJ/bit,仅为现有解决方案的千分之一左右。

从技术原理来看,A-1架构通过光信号传输替代传统的电信号传输,有效克服了电子互连在高频下的信号衰减和延迟问题。每个光互连通道的带宽达到24Gb/s,整个系统通过多通道并行工作实现了240TB/s的总带宽。这种带宽水平是当前高性能内存(HBM)的10倍以上,为处理超大规模模型提供了坚实基础。

尽管Volantis尚未公布具体的技术细节,但其宣称的各项指标均远超现有光互连技术水平。例如,系统体积仅为传统方案的千分之一,能效比提升了两个数量级。这些优势使得A-1架构在处理超大规模AI模型时具有显著的成本优势,特别是在需要长时间运行的场景下。

业界专家认为,Volantis的这项突破可能重新定义AI硬件的发展方向。"随着大模型参数量的持续增长,传统的内存架构已经难以满足需求。"某资深半导体分析师指出,A-1架构的成功验证将推动整个行业向更高带宽、更大容量的存储解决方案发展。

文章配图

Volantis计划于2027年向客户交付首批集成推理引擎,届时将有机会验证其技术的实际效果。如果测试结果符合预期,这将标志着AI硬件领域的一次重大革新,为未来更大规模的模型训练和推理提供新的可能性。

值得注意的是,Volantis的这项技术突破正值全球内存市场供需紧张之际。美光科技等厂商已多次警告内存短缺问题将持续到2028年,而人形机器人等新兴应用又将带来新的需求增长点。在这种背景下,A-1架构的出现不仅解决了当前的技术瓶颈,也为应对未来的市场需求提供了新的解决方案。

从更宏观的角度看,Volantis的技术突破反映了AI硬件领域正在经历的深刻变革。随着模型规模的不断扩大,传统的计算架构已经难以满足需求,而光互连技术为代表的新型硬件方案正在成为新的发展方向。这种变革不仅影响着AI模型的训练和推理效率,也将对整个半导体产业产生深远影响。