OpenAI等百余家科技企业联合呼吁,AI网络威胁迫在眉睫,需立即加强防御

随着人工智能技术的快速发展,其在网络安全领域的应用与风险也日益凸显。近日,由OpenAI牵头,包括Anthropic、谷歌、微软、亚马逊云服务(AWS)、甲骨文在内的超过100家科技和网络安全公司共同...

人工智能

随着人工智能技术的快速发展,其在网络安全领域的应用与风险也日益凸显。近日,由OpenAI牵头,包括Anthropic、谷歌、微软、亚马逊云服务(AWS)、甲骨文在内的超过100家科技和网络安全公司共同签署了一封公开信,呼吁全球范围内的企业和政府机构立即采取行动,应对AI驱动的网络威胁。

图片

这封题为《呼吁开展网络防御的集体行动》的公开信指出,当前全球各地的AI模型能力正在快速提升,这意味着由AI发起的网络攻击将变得更加广泛和复杂。信中特别提到,医院、水处理厂、电网及互联网基础设施等关键公共服务正面临日益迫近的安全威胁。

“长期以来积累的安全漏洞、过度权限、配置错误、未修补的软件、薄弱认证以及遗留系统的技术债务,已经使各类系统暴露在风险之中。”公开信称,安全团队特别是关键基础设施领域的安全团队长期资源不足,亟须工具和资源的大规模扩充。

公开信还强调,AI既是威胁,也是防御工具。当前的AI进步同样为防御方提供了修复多年积弊的新手段。“如果我们果断行动,就可以利用防御方的窗口期,让我们的数字世界变得更加安全。”

为此,公开信针对不同主体提出了具体行动要求:建议所有组织将网络防御提升为最高领导层优先事项,修补最高风险漏洞,并提高对采购、开发和部署各环节的安全标准,包括AI生成的代码。同时,网络安全公司与技术合作伙伴需持续测试防御体系对抗前沿AI网络能力的能力,使AI驱动的防御工具对关键基础设施运营方可及、可部署,并加强威胁情报共享。各国政府应在地方、国家和国际层面协调防御行动,为关键服务提供网络防御资金支持,并对攻击者施加成本。前沿AI企业应在重大网络事件期间向防御方开放最强响应模型,并提供资金、培训和实操支持。

此次公开信发布的背景是近期一系列AI相关的网络安全事件。今年7月,美国开放人工智能研究中心(OpenAI)创建的约700个AI代理入侵了人工智能开源平台“抱抱脸”公司系统,试图掩盖不当行为并获取更大行动自由。这一事件引发了业界对AI代理失控风险的广泛关注。

此外,美国联邦机构近期已警告,攻击者正利用AI生成的漏洞利用脚本,对西门子S7系列可编程逻辑控制器(PLC)进行侦察和能力开发,这些设备广泛用于水处理和电力设施。专家称,供水系统和发电厂等关键基础设施的控制系统长期存在漏洞,但过去黑客需要投入大量时间理解其复杂机制,AI模型正大幅缩短这一准备时间。

微软联合创始人比尔·盖茨也在近日发出警告,他将AI时代称为“人类历史上最动荡的时期之一”,并提出三项核心主张:设立“人类保留岗位”,将护理、教育等涉及人情关怀的工作划为人类专属;对AI处理的数据单元(token)和机器人征税,减缓企业过快自动化的速度,为再培训和社会保障体系筹资;建立类似国际原子能机构的跨国监管机构,对具备设计生物分子能力的模型实施强制合规监测。

公开信虽未设定具体时间表或投资承诺,但结合近期行业事件与盖茨的警示,科技行业正就AI安全风险的紧迫性逐渐达成广泛共识。业内人士表示,此次联名行动标志着AI安全问题已从技术讨论上升为全球性议题,未来可能催生更严格的行业规范和国际合作机制。

随着AI技术的普及,网络安全领域正面临前所未有的挑战。此次由众多科技巨头联合发布的公开信,不仅揭示了AI驱动网络威胁的严重性,也为全球网络安全治理提供了新的思路。各方能否迅速行动,将决定数字世界的未来安全格局。