网通社科技快报
网友4个月手搓GH200超算集群 总内存1500GB成本不足7万元
一名Reddit用户历时4个月,以不到7万元人民币(约1万美元)成本,成功组装出搭载英伟达GH200工程样品芯片的计算设备,并连接8台DGX Spark节点,建成总内存约1500GB的分布式AI训练集群。项目核心难点在于GH200工程版缺乏标准BMC管理模块,导致无法启动;用户最终通过获取OEM定制的Ranger Compute Tray托盘,集成合规BMC与电源管理单元,实现芯片点亮。硬件架构上,GH200提供约576GB HBM3高带宽内存,8台DGX Spark各配128GB DDR5内存,合计扩展约1TB容量;网络采用双MikroTik交换机搭建400G/200G混合拓扑,配合RDMA与UCX协议栈,达成近线性内存池化效果。该集群已用于7B参数语言模型的本地微调,全程基于PyTorch+DeepSpeed+OpenMPI开源栈运行,未依赖NVIDIA AI Enterprise。此举反映高端AI芯片通过二手渠道下沉至个体开发者趋势,也凸显厂商对非标部署环境兼容性不足的问题。虽无冗余与专业运维保障,但其一次性投入远低于云服务,为探索性研究提供高灵活性平台。用户计划后续增配第二颗GH200并升级InfiniBand互联。