内存墙突破！HBF容量超HBM16倍、HBC能效是HBM6倍

随着人工智能技术的快速发展，AI推理对内存的需求呈指数级增长，传统的高带宽内存（HBM）架构逐渐显现出容量与成本难以兼顾的局限性。近日，在硅谷举行的AI基础设施峰会上，这一核心障碍被明确提出，同时，两种新型存储架构——HBF（高带宽闪存）和HBC（高带宽计算）——成为行业关注的焦点，分别从大容量和高能效两个维度寻求突破。

HBF：大容量存储的新选择

HBF定位介于HBM与SSD之间的存储层级，采用TSV硅通孔技术垂直堆叠NAND闪存，旨在兼顾高带宽与大容量。SK海力士与闪迪于2026年8月通过OCP发布了首个HBF标准规范，最高容量可达512GB，带宽覆盖0.4TB/s至3.0TB/s。谷歌与Tenstorrent已加入HBF联盟，显示出行业巨头对其潜力的认可。

据闪迪公布的数据，在封装尺寸、堆叠高度和功耗与HBM4基本相当的前提下，HBF容量可达HBM的8至16倍。SK海力士仿真结果显示，采用8组HBM3E与8组HBF的组合配置，每瓦性能可提升至纯HBM方案的2.69倍。然而，HBF并非没有短板。GPU IP公司OXMIQ Labs在Hot Chips 2026上指出，在72 GPU机架运行1万亿参数模型的模拟中，用HBF替代HBM虽可将内存容量从20.7TB提升至294.9TB，但聚合带宽仅为HBM的约60%。因此，HBF更适合存储不常访问的MoE专家池和KV缓存，而非全面替代HBM。

HBC：能效革命的推动者

另一条路线HBC由高通主推。HBC将多个LPDDR芯片垂直堆叠在加速器上方，通过近存计算将部分计算逻辑直接放到内存下方。高通数据显示，完整加速器级别下，HBC单位功耗带宽是HBM的6倍，单位功耗存储容量是SRAM的200倍。

三星和SK海力士已主动提出与高通合作推进HBC商业化，台积电负责整合封装工艺。第一代HBC产品预计2027年出货，将集成到高通AI250推理加速器中。不过HBC目前仅适用于推理场景中内存带宽受限的解码阶段，预填充阶段仍以计算能力为主导。

行业影响与未来展望

HBF和HBC的出现，标志着内存技术正在经历一场深刻的变革。HBF通过提供更大的存储容量，为处理大规模模型提供了新的可能性；而HBC则通过提升能效，为AI推理的能耗问题提供了解决方案。这两种技术的结合，有望显著缓解当前AI基础设施面临的内存瓶颈问题。

尽管HBF和HBC各自存在一定的局限性，但它们的互补性使得它们在未来可能形成一种混合解决方案。例如，在需要大容量存储的场景中使用HBF，在需要高能效的场景中使用HBC。这种混合方案不仅能够充分发挥两种技术的优势，还能够根据具体需求灵活调整配置，从而实现最佳的性能与成本平衡。

总的来说，HBF和HBC的出现为AI内存技术的发展开辟了新的方向。随着这些新技术的逐步成熟和商业化，我们有理由相信，它们将在未来的AI基础设施中发挥越来越重要的作用。