HBM之父金正浩:AI本质是内存

在人工智能(AI)领域,一场关于算力核心的革命正在悄然发生。韩国科学技术院(KAIST)电气工程系教授金正浩,因其在高带宽内存(HBM)领域的开创性贡献而被称为"HBM之父",近日在接受媒体采访时提出...

人工智能

在人工智能(AI)领域,一场关于算力核心的革命正在悄然发生。韩国科学技术院(KAIST)电气工程系教授金正浩,因其在高带宽内存(HBM)领域的开创性贡献而被称为"HBM之父",近日在接受媒体采访时提出了一个颠覆性的观点:AI的本质并非GPU,而是内存。

图片

根据金正浩的研究,当前AI系统中GPU的实际利用率远低于理论值。他指出,每次AI生成输出时,数据都需要在HBM内存和GPU之间反复传输,"读写操作几乎占用了全部时间,GPU反而成了"旁观者"。即便部署了100万台GPU,真正用于计算的时间也仅占10%-30%。

"AI等于内存(AI = Memory)",这是金正浩多年研究得出的核心结论。他认为,随着AI从训练阶段向推理阶段过渡,内存能力将成为决定AI性能的关键因素。"谷歌Gemini、OpenAI、Anthropic Claude等模型的竞争,最终取决于它们能处理多少数据以及处理速度有多快,而这完全由内存技术决定。"

在AI发展初期,GPU确实是提升算力的主要手段。然而,随着多模态输入、Agentic AI等新技术的出现,对内存的需求呈指数级增长。金正浩表示,"10年后,内存需求将是现在的1000倍。"传统的通过缩小晶体管来增加容量的方法已经接近物理极限,因此必须采用垂直堆叠的技术路线。

"HBM解决了速度问题,但容量仍有天花板。"金正浩进一步阐述了下一代内存技术——HBF(High Bandwidth Flash)。这种技术将NAND闪存像HBM一样进行垂直堆叠,既能提供大容量存储,又能满足推理场景中对冷数据的访问需求。

"就像城市规划一样,HBM扮演着商场的角色,HBF相当于住宅区,而未来的HBS(高带宽SRAM)则会成为高速缓存。"金正浩设想了一个复杂的3D复合架构:HBM、HBF、HBS层层叠加,共同为GPU提供数据支持,形成一个约100层的"三维建筑"。

对于三星和SK海力士等内存厂商而言,这既是挑战也是机遇。金正浩明确指出,"现在是HBM的时代,但10年后,NAND闪存和HBF的市场需求将超过HBM。"这意味着内存厂商需要提前布局,开发适用于推理时代的新型存储解决方案。

"AI的未来,掌握在内存手里。"金正浩的这一论断不仅揭示了当前AI算力瓶颈的本质,也为半导体行业指明了发展方向。随着AI应用的不断深入,内存技术的创新将成为推动整个行业进步的关键力量。

图片