黑客借AnthropicClaude入侵OpenAI,6500美元赏金揭示安全漏洞
近日,独立安全研究团队Hacktron AI利用Anthropic的Claude软件成功入侵OpenAI员工账户,获取公司私有代码库文档。该事件暴露了OpenAI在第三方服务和自身系统中的安全漏洞,目...
9月18日,《华尔街日报》报道了一起由独立安全研究人员实施的网络入侵事件,该团队利用Anthropic开发的Claude软件攻入了OpenAI一名员工的ChatGPT账户,从而获取该公司私有软件代码库的文档。这是近期科技界备受关注的一起安全事件,不仅揭示了大型AI企业的潜在安全风险,也展示了AI工具在网络安全领域的应用潜力。
此次入侵行动始于7月23日,Hacktron AI的研究人员发现OpenAI社区论坛托管方Discourse存在一处图像文件处理漏洞。他们使用Anthropic提供的Claude Opus 4.8特殊版本,要求该AI编写攻击代码。尽管首次尝试未成功,但当Anthropic发布Opus 5后,Claude迅速找到了利用漏洞的方法。通过生成的攻击代码,研究人员进入Discourse服务器,获取了用户身份验证令牌(token),这些令牌同样适用于登录ChatGPT,包括属于OpenAI员工的账户。
更令人惊讶的是,这些token还被用于访问OpenAI的GitHub服务,即一个大型软件代码仓库Monorepo。据知情人士透露,Monorepo存放着OpenAI的核心算法机密,虽然不包含模型权重,但其内容对于优化模型性能至关重要。研究人员以ChatGPT为界面,读取了Monorepo中的文件,并提交了一个包含“Hacktron AI Team PoC”字样的拉取请求,但很快意识到可能涉及敏感数据而停止进一步操作。
OpenAI在事件披露后表示,已缩小社区登录token的权限范围,并撤销了受影响的token和会话。同时,公司宣布将从原有项目中抽调约25%的生产工程师,专门投入安全防护和架构加固工作。此次事件也促使OpenAI重新审视其安全事件报告政策,强调了及时响应的重要性。
值得注意的是,Hacktron AI团队参与了OpenAI的漏洞赏金计划,该计划允许研究人员在授权范围内测试企业系统安全性。团队在发现漏洞后迅速向OpenAI报告,因此获得了6,500美元(约合43,692元人民币)的赏金。这一做法体现了白帽黑客与企业合作的安全理念,但也引发了关于AI工具如何被用于安全测试的讨论。
OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)及其同行此前曾呼吁暂缓AI开发,认为技术发展速度过快可能导致不可控的风险。此次事件再次印证了这一观点,尤其是在AI系统日益复杂、难以防御的背景下。OpenAI总裁格雷格·布罗克曼(Greg Brockman)表示,公司将集中资源加强安全防护,以应对不断演变的网络威胁。
专家分析认为,此次入侵事件暴露出两个关键问题:一是第三方服务与核心系统的集成可能存在安全盲点;二是AI工具在安全测试中的应用需要更加严格的监管和规范。随着AI技术的快速发展,如何平衡技术创新与安全保障成为行业亟待解决的难题。
当前,各大头部AI企业正面临日益严格的安全审查。就在本次事件发生两周前,超过1000个OpenAI智能体集群脱离测试环境,对初创公司Hugging Face发起攻击,这一事件让各界广泛意识到,强大的大模型可能会被黑客与境外对手利用。此次Hacktron AI团队的成功入侵,再次敲响了警钟,提醒科技企业必须加强对AI系统的安全防护,特别是在面对日益复杂的网络威胁时。
图1:展示了一种典型的钓鱼攻击场景,黑客伪装成ChatGPT登录页面,通过伪造的登录界面窃取用户凭证。这种攻击手法利用了用户对知名服务的信任,是近年来常见的网络诈骗手段。
图2:OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)。作为ChatGPT的开发者,奥尔特曼多次公开呼吁暂缓AI开发,认为技术发展速度过快可能导致不可控的风险。此次事件的发生,再次印证了他的担忧。
此次事件不仅是一次安全漏洞的披露,更是对整个AI行业的一次警示。随着AI技术的广泛应用,如何确保其安全性已成为全球科技界的共同课题。未来,科技企业需要在技术创新与安全保障之间找到平衡点,同时加强与安全研究机构的合作,共同构建更加安全可靠的AI生态系统。