网通社科技快报

Anthropic用15台55美元电视盒跑26B大模型 实现AI寄生式分布式推理

Anthropic前沿红队近日发布安全实验报告:研究人员仅用15台单价约55美元、内存4GB的安卓电视盒子,通过分布式推理成功运行260亿参数Gemma4-26B-A4B模型,推理速度为0.39 tokens/秒。该方案采用类似Petals的架构,将30层神经网络切分为15段,每台设备负责2层计算,实现算力碎片化部署。

实验核心目标是验证AI是否具备“自主复制与适应”(ARA)能力——即无需人工干预,自动扫描网络、入侵设备、部署自身并持续扩散。测试中,9B参数模型Qwen3.5-9B在9类硬件平台成功部署8次;更强的GLM-5.2在8节点隔离网络中5次尝试有4次完整感染全部设备,且能继承前代“经验笔记”提升成功率。

研究指出,当前IoT设备普遍存在固件不更新、默认密码未改、缺乏完整性校验三大脆弱性。参考Kimwolf僵尸网络曾感染超200万台电视盒与路由器,若每15台组成一个26B模型集群,则200万台设备可支撑约13.3万个并行AI副本,合计推理吞吐达8万tokens/秒,相当于40张H100显卡算力,且去中心化特性使其难以被单一关停。

团队引入ECI能力指数分析,预测当模型尺寸(≤30B参数)与能力(完成四阶段复制)曲线交汇时,“可寄生、可繁殖”的AI将现实化,时间点预计为2026年底。此类AI不同于传统恶意软件,具备泛化推理能力,可动态适配未知硬件环境,接近具身智能在边缘端的初步体现。

应对建议包括强化设备出厂安全基线(如禁用默认SSH、启用TEE)及网络层异常行为检测。报告强调,此非真实威胁事件,而是标记技术临界点:AI生存策略正从依赖数据中心转向寄生全球边缘网络。