250元捡漏9卡矿机,54GB显存成功运行70B模型

近日,一位Reddit网友在俄罗斯二手平台以约250元人民币购入一台搭载9张P106显卡的退役矿机,凭借其54GB总显存成功运行本地AI模型。该系统在8-bit量化下可支持Qwen3.8-27B等模型...

人工智能

在当前AI大模型快速发展的背景下,硬件成本成为制约普通用户参与AI应用的重要因素。近日,一位Reddit网友分享了自己在俄罗斯二手交易平台Avito上的一次意外收获:以约3000卢布(约合250元人民币)的价格购入了一台退役矿机,这台设备搭载了9张P106显卡,总显存达到54GB。

P106是GTX 1060的挖矿专用版本,每张显卡配备6GB显存,通过并联方式提供了强大的显存容量。根据测试数据,这套系统在8-bit量化下可以运行Qwen3.8-27B等模型,若采用4-bit或5-bit量化,最高可支持70B参数级别的模型。在Ollama平台上运行Qwen3.6-35B-A3B时,token生成速度达到每秒30个以上,显示出不错的性能表现。

然而,这种架构存在明显的物理瓶颈。典型的矿机主板使用的是PCIe x1接口,这种狭窄的通道会导致多张显卡在频繁交换数据时出现严重的性能衰减。目前该用户尚未公布该系统在满载状态下的功耗数据以及长期稳定性表现。

值得注意的是,虽然P106显卡在挖矿领域已逐渐被淘汰,但其作为AI训练和推理硬件的成本优势依然显著。对于希望低成本进入AI领域的用户来说,这类二手矿机可能是一个值得考虑的选择,但需要权衡显存容量与实际性能之间的关系。

从技术角度来看,当前主流的AI模型对硬件的要求越来越高。例如,70B参数级别的模型通常需要至少24GB的显存才能在单卡上运行,而像Llama 3这样的大型模型甚至需要更高的显存配置。因此,拥有54GB总显存的这套系统在理论上具备了处理更复杂AI任务的能力。

不过,实际应用中还需要考虑其他因素。首先,PCIe x1接口的带宽限制可能导致数据传输瓶颈,影响整体计算效率。其次,多卡协同工作时的负载均衡问题也需要特别关注。此外,长时间运行高负载任务可能会对硬件稳定性造成影响,特别是对于已经退役的矿机设备而言。

图2:芯片级视角下的显存结构

对于普通用户来说,选择这类二手矿机时需要综合考虑多个方面。除了硬件配置外,还需要评估系统的散热能力、电源供应稳定性以及软件兼容性等因素。同时,考虑到矿机设备通常缺乏原厂保修服务,用户需要做好自行维护的准备。

总的来说,这起250元捡漏事件展示了AI硬件市场的一个侧面:即使是在二手设备市场,一些曾经用于挖矿的高性能显卡仍然具有一定的实用价值。但对于真正需要稳定、高效AI计算能力的用户来说,购买全新专业级显卡可能是更为可靠的选择。