PenguinSolutions发布首款光子HBM级内存设备,应对AgenticAI内存墙挑战

Penguin Solutions在SC26大会上推出全球首款基于硅光技术的HBM级内存设备MemoryAI Photonic Appliance,旨在解决GPU内存容量瓶颈问题。该设备依托Marve...

人工智能 阅读量: 2592

Penguin Solutions于近日在芝加哥举行的SC26超算大会上正式发布MemoryAI Photonic Appliance,宣称这是业界首款基于硅光子技术(Silicon Photonics, SiPh)的HBM级内存设备。该设备的核心目标是突破当前GPU内存容量限制,为Agentic AI等新型工作负载提供可持续扩展的高带宽内存支持。

传统HBM(高带宽内存)虽具备极高的数据传输速率,但受限于物理封装约束——其芯片必须紧邻GPU核心,通常间距在毫米级以内,导致单颗GPU所能集成的HBM容量被严格限制。随着AI应用从单纯模型推理向更复杂的Agentic架构演进,这一“内存墙”问题日益凸显:Agent需在长时间任务执行中持续保留代码、工具调用状态与中间数据,即便计算单元空闲,内存资源仍需长期占用。据行业分析案例,在一个30分钟的持续构建测试任务中,内存资源费用可达CPU费用的3.3倍;在模拟服务器负载模型中,600个并发Agent任务仅需120个活跃CPU核心,却需2400GB常驻内存——远超常规服务器768GB内存配置上限。

文章配图

Penguin Solutions提出的解决方案是将内存从GPU封装中“解耦”,通过光互连技术实现远程高速访问。其MemoryAI Photonic Appliance采用Marvell Photonic Fabric技术平台构建,配合配套的MemoryAI Photonic Memory Module——据称是全球首个硅光子内存模块——可在数米距离内维持HBM级别的带宽(理论可达数千GB/s量级),使CPU与GPU能透明共享同一池化内存资源,无需修改现有软件栈。

该方案的技术路径绕开了传统电互连在长距离下的带宽衰减与功耗瓶颈。硅光子芯片利用光信号在波导中传输数据,具备低延迟、高能效与抗电磁干扰优势,特别适合数据中心内部机柜级互联场景。Penguin强调,该设备并非替代HBM,而是作为其延伸层,用于扩展整体内存容量池,缓解因局部HBM容量不足导致的GPU利用率下降问题。

值得注意的是,当前HBM市场正处于高度紧张状态。SK海力士已宣布截至2029年其DRAM与HBM产能全部售罄,并正加速推进HBM4扩产计划:新增清州P&T6工厂(原M8厂)将利用闲置空间提升产能,满负荷运行后每月可增产2万片以上晶圆。集邦咨询预计2027年HBM混合平均售价同比上涨121%,摩根大通亦预测涨幅达96%。三星电子则已将2031年前约70%的HBM产能锁定为长约订单,现货市场价格已达长约价的4—5倍。

HBM需求逻辑正在发生结构性变化。过去几年,其增长主要依赖GPU出货量与单卡HBM容量提升;而今,Agentic AI推动下,单台服务器的内存配置权重显著上升。美光预测2026—2027年全球服务器出货量将维持高十几%增速,英伟达亦指出Agent应用正加速CPU需求增长,预计其CPU业务收入在2028财年将翻倍以上。这意味着,未来服务器采购决策将不再仅由计算能力驱动,内存容量本身可能成为扩容的关键指标。

在此背景下,Penguin Solutions的光子内存方案提供了一条差异化路径:不依赖先进制程堆叠HBM层数,而是通过系统架构创新拓展有效内存容量。其技术尚未进入量产阶段,但已在SC26现场展出工程样机,表明硅光子在AI基础设施中的实用化探索已进入实质性阶段。

文章配图

产业链方面,尽管A股尚无HBM颗粒量产企业,但多家公司深度参与上游环节:拓荆科技的晶圆混合键合设备用于HBM三维堆叠;江丰电子的超高纯金属靶材应用于HBM制造;联瑞新材供应Lowα球形二氧化硅等封装材料;金宏气体的高纯二氧化碳已供货SK海力士中国产线;香农芯创则持有SK海力士与AMD的代理资质。

需要指出的是,光子内存目前仍面临成本、良率与标准化等挑战。硅光子模块的封装复杂度高于传统电接口,且需配套专用驱动与协议栈。Penguin未披露具体性能参数与商用时间表,但其定位明确:服务于大型AI工厂(AI Factory)中对内存容量极度敏感的Agentic工作负载场景。

随着AI从“对话式”向“行动式”演进,内存角色正从辅助计算资源转变为独立的价值载体。当一个Agent需在数分钟甚至数小时内维持上下文状态时,内存的“持久性”与“可扩展性”变得与算力同等重要。Penguin Solutions此次发布的设备,标志着行业开始从芯片级优化转向系统级重构,以应对下一阶段AI基础设施的核心瓶颈。