网通社科技快报
Penguin Solutions发布首款光子HBM级内存设备 解耦GPU内存瓶颈
Penguin Solutions于SC26超算大会正式发布业界首款基于硅光子技术(SiPh)的HBM级内存设备MemoryAI Photonic Appliance,旨在解决GPU内存容量受限导致的‘内存墙’问题。该设备采用Marvell Photonic Fabric平台构建,配套全球首个硅光子内存模块MemoryAI Photonic Memory Module,可在数米距离内维持数千GB/s量级带宽,使CPU与GPU能透明共享同一池化HBM级内存资源,无需修改现有软件栈。
传统HBM因物理封装限制(芯片距GPU核心需毫米级),单GPU集成容量受限;而Agentic AI工作负载需长时间驻留代码、工具状态与中间数据,导致内存需求激增——例如600并发Agent任务仅需120个活跃CPU核心,却需2400GB常驻内存,远超常规服务器768GB上限。Penguin方案通过光互连将内存从GPU封装中解耦,绕过电互连长距衰减与功耗瓶颈,利用光信号低延迟、高能效、抗干扰特性,适用于机柜级数据中心互联。
该设备并非替代HBM,而是作为其延伸层扩展整体内存池,提升GPU利用率。当前HBM市场高度紧张:SK海力士宣布至2029年产能全售罄并加速HBM4扩产;集邦预测2027年HBM混合均价同比涨121%;三星锁定2031年前70%产能为长约订单,现货价达长约价4—5倍。行业需求逻辑正从GPU出货驱动转向单服务器内存配置权重上升,英伟达预计2028财年CPU业务收入将翻倍以上。
Penguin已在SC26展出工程样机,技术尚未量产,但标志硅光子在AI基础设施实用化进入实质阶段。产业链方面,拓荆科技、江丰电子、联瑞新材、金宏气体、香农芯创等企业分别参与HBM上游设备、材料与代理环节。该方案仍面临成本、良率与协议标准化挑战,目标聚焦大型AI工厂中对内存容量极度敏感的Agentic场景,反映AI基础设施正从芯片级优化转向系统级重构。
传统HBM因物理封装限制(芯片距GPU核心需毫米级),单GPU集成容量受限;而Agentic AI工作负载需长时间驻留代码、工具状态与中间数据,导致内存需求激增——例如600并发Agent任务仅需120个活跃CPU核心,却需2400GB常驻内存,远超常规服务器768GB上限。Penguin方案通过光互连将内存从GPU封装中解耦,绕过电互连长距衰减与功耗瓶颈,利用光信号低延迟、高能效、抗干扰特性,适用于机柜级数据中心互联。
该设备并非替代HBM,而是作为其延伸层扩展整体内存池,提升GPU利用率。当前HBM市场高度紧张:SK海力士宣布至2029年产能全售罄并加速HBM4扩产;集邦预测2027年HBM混合均价同比涨121%;三星锁定2031年前70%产能为长约订单,现货价达长约价4—5倍。行业需求逻辑正从GPU出货驱动转向单服务器内存配置权重上升,英伟达预计2028财年CPU业务收入将翻倍以上。
Penguin已在SC26展出工程样机,技术尚未量产,但标志硅光子在AI基础设施实用化进入实质阶段。产业链方面,拓荆科技、江丰电子、联瑞新材、金宏气体、香农芯创等企业分别参与HBM上游设备、材料与代理环节。该方案仍面临成本、良率与协议标准化挑战,目标聚焦大型AI工厂中对内存容量极度敏感的Agentic场景,反映AI基础设施正从芯片级优化转向系统级重构。