HBF存储技术发布,大容量优势明显但带宽不足成瓶颈
近日,闪迪(SanDisk)与SK海力士共同发布了下一代存储技术——高带宽闪存(HBF,High Bandwidth Flash)的首个标准规范。这一技术介于高带宽内存(HBM)和固态硬盘之间,旨在解...
近日,闪迪(SanDisk)与SK海力士共同发布了下一代存储技术——高带宽闪存(HBF,High Bandwidth Flash)的首个标准规范。这一技术介于高带宽内存(HBM)和固态硬盘之间,旨在解决人工智能领域日益严峻的“存储墙”问题。
HBF的核心优势在于其显著提升的存储容量。以一个配备72块GPU的机架为例,在运行1万亿参数的Kimi-K2模型时,使用HBF可将内存容量从20.7TB提升至294.9TB,增幅达14倍。然而,这种容量提升是以牺牲带宽为代价的:HBF的总带宽仅为HBM的60%,即922TB/s对比1584TB/s。这意味着在需要高吞吐量的推理任务中,HBF较低的带宽可能成为性能瓶颈。
据TrendForce分析,HBF虽然备受关注,但其定位更倾向于作为大容量内存技术,而非HBM的低成本替代品。对于需要大容量但对带宽要求不高的工作负载,HBF展现出独特价值。例如,一块配备HBF的GPU可以承担原本需要八块配备HBM的GPU才能满足的存储需求。
不过,HBF的推广仍面临挑战。首先,管理多层级存储架构的复杂性可能让厂商望而却步。其次,英伟达等主要GPU制造商目前尚未计划引入HBF技术,将继续采用HBM。按照闪迪的规划,首批HBF样品预计于2027年推出,量产则要等到2028年。
相比之下,高通推出的HBC近存架构在能效和带宽上展现出更大优势。该技术通过3D堆叠工艺将计算单元与内存深度融合,不仅保留了高带宽、高密度的特点,还大幅降低了功耗。目前,多家超大规模云服务商已对HBC表现出浓厚兴趣,显示出市场对新型存储架构的迫切需求。
此外,美光公司也指出,随着AI模型规模的快速增长,HBM已成为性能瓶颈。英伟达近期推出的NVHBM技术,相比HBM4e在带宽上提升了30%,功耗降低了15%,进一步凸显了存储技术升级的必要性。
总体来看,HBF的发布标志着存储技术向更高容量方向发展的重要一步。尽管其带宽限制使其难以完全取代HBM,但在特定应用场景下,HBF有望成为补充解决方案,推动AI基础设施的持续演进。