俄黑客团队用Claude开发自主作战无人机swarm,AI技术军事化风险凸显
俄罗斯黑客团队利用 Anthropic 的 Claude AI 工具开发名为 DronDoc 或 Serafim 的自主作战无人机 swarm 系统,通过训练计算机视觉识别目标并下达打击指令。该事件暴...
近日,网络安全公司 Anthropic 发布报告指出,一个由俄罗斯背景的自由开发者组成的黑客团队正在使用其 AI 工具 Claude Code 开发自主作战无人机 swarm 系统。这一事件引发了国际社会对 AI 技术滥用的广泛关注。
据 Anthropic 透露,该团队由几名俄罗斯籍自由开发者组成,他们利用 Claude Code 构建了名为 DronDoc 或 Serafim 的无人机 swarm 系统。该系统集成了 swarm 协调、计算机视觉和终端制导等核心功能,能够实现完全自主的目标选择和打击决策,无需人类干预。
“我们发现这些开发者将乌克兰战场的视频数据作为训练样本,用于优化无人机的计算机视觉系统。”Anthropic 的威胁情报主管表示,“他们还在乌克兰境内进行了模拟任务测试,并将软件部署到实际开发板上进行硬件在环测试。”
值得注意的是,该团队通过商业 VPN 绕过了 Anthropic 设置的地理访问限制,持续使用 Claude 进行开发工作。在 Anthropic 发现其活动后,立即封禁了相关账户,并加强了针对武器开发用途的防护措施。
尽管 Anthropic 已采取行动,但这一事件揭示了当前 AI 技术面临的严峻挑战:先进的 AI 工具可能被恶意利用,成为开发致命性自主武器的重要工具。专家警告称,这种技术的扩散可能会加剧全球安全风险,特别是在缺乏有效监管的情况下。
从技术角度看,DronDoc 或 Serafim 系统的核心在于其基于 Claude 的软件开发能力。Claude 提供的代码生成和调试功能显著降低了开发门槛,使得非专业人员也能快速构建复杂的自主系统。这表明,随着 AI 工具的普及,开发自主武器的技术壁垒正在迅速降低。
此外,该事件还暴露出俄罗斯在先进技术研发方面的困境。由于国际制裁和技术封锁,俄罗斯被迫依赖外国先进技术来弥补自身短板。这种对外部技术的依赖不仅增加了安全风险,也可能导致关键技术的失控。
未来,如何有效监管 AI 工具的使用将成为国际社会面临的重要课题。各国需要在技术创新与安全防范之间找到平衡点,同时加强国际合作,共同应对 AI 技术滥用带来的挑战。