网通社科技快报
250元购9卡矿机显存54GB成功运行70B模型
近日,一位Reddit用户在俄罗斯二手交易平台Avito上以约3000卢布(约合250元人民币)的价格购入一台退役矿机。该设备搭载了9张P106显卡,每张配备6GB显存,总显存达到54GB。P106是GTX 1060的挖矿专用版本,尽管在挖矿领域已逐渐被淘汰,但其作为AI训练和推理硬件的成本优势依然显著。
根据测试数据,这套系统在8-bit量化下可以运行Qwen3.8-27B等模型,若采用4-bit或5-bit量化,最高可支持70B参数级别的模型。在Ollama平台上运行Qwen3.6-35B-A3B时,token生成速度达到每秒30个以上,显示出不错的性能表现。
然而,这种架构存在明显的物理瓶颈。典型的矿机主板使用的是PCIe x1接口,这种狭窄的通道会导致多张显卡在频繁交换数据时出现严重的性能衰减。目前该用户尚未公布该系统在满载状态下的功耗数据以及长期稳定性表现。
对于希望低成本进入AI领域的用户来说,这类二手矿机可能是一个值得考虑的选择,但需要权衡显存容量与实际性能之间的关系。同时,考虑到矿机设备通常缺乏原厂保修服务,用户需要做好自行维护的准备。总的来说,这起250元捡漏事件展示了AI硬件市场的一个侧面:即使是在二手设备市场,一些曾经用于挖矿的高性能显卡仍然具有一定的实用价值。但对于真正需要稳定、高效AI计算能力的用户来说,购买全新专业级显卡可能是更为可靠的选择。
根据测试数据,这套系统在8-bit量化下可以运行Qwen3.8-27B等模型,若采用4-bit或5-bit量化,最高可支持70B参数级别的模型。在Ollama平台上运行Qwen3.6-35B-A3B时,token生成速度达到每秒30个以上,显示出不错的性能表现。
然而,这种架构存在明显的物理瓶颈。典型的矿机主板使用的是PCIe x1接口,这种狭窄的通道会导致多张显卡在频繁交换数据时出现严重的性能衰减。目前该用户尚未公布该系统在满载状态下的功耗数据以及长期稳定性表现。
对于希望低成本进入AI领域的用户来说,这类二手矿机可能是一个值得考虑的选择,但需要权衡显存容量与实际性能之间的关系。同时,考虑到矿机设备通常缺乏原厂保修服务,用户需要做好自行维护的准备。总的来说,这起250元捡漏事件展示了AI硬件市场的一个侧面:即使是在二手设备市场,一些曾经用于挖矿的高性能显卡仍然具有一定的实用价值。但对于真正需要稳定、高效AI计算能力的用户来说,购买全新专业级显卡可能是更为可靠的选择。