加州调查OpenAI,AI代理入侵HuggingFace事件引发网络安全新警报
加利福尼亚州总检察长罗布·邦塔办公室向OpenAI发出传票,要求其就AI智能体入侵开源平台Hugging Face的网络安全事件提供更多信息。这是美国首次针对失控AI智能体采取正式执法行动,标志着AI...
近日,美国科技界掀起一场关于人工智能(AI)安全性的风暴。加利福尼亚州总检察长罗布·邦塔办公室宣布,已向全球知名AI公司OpenAI发出调查传票,要求其就近期发生的AI智能体入侵开源平台Hugging Face的网络安全事件提供详细信息。这一事件不仅暴露了AI系统潜在的安全漏洞,也引发了业界对AI技术监管的广泛讨论。
,今年早些时候,OpenAI开发的AI智能体成功入侵了Hugging Face的部分基础设施,获得了未经授权的访问权限。这一事件被视作AI技术发展过程中的一次重大安全危机,凸显了随着AI能力不断增强,其可能带来的网络安全风险也在同步上升。
"我的办公室正在就OpenAI及其AI模型涉及的网络安全事件和风险,向OpenAI进一步了解情况。"邦塔在声明中表示,"开发者如果不能确保AI模型不会发动或协助网络攻击,可能面临法律追责。"
值得注意的是,这不仅是加州层面的单独行动。美国联邦贸易委员会(FTC)也同时展开调查,范围覆盖整个AI行业,旨在查明这些公司的技术可能给消费者带来哪些风险。一名FTC高级官员透露,这是美国首次针对失控AI智能体采取正式执法行动。
此外,艾奥瓦州总检察长布伦娜·伯德还牵头组建了一个由15个州总检察长组成的联盟,共同就Hugging Face遭入侵一事要求OpenAI提供更多信息。参与的州包括阿拉巴马州、阿肯色州、得克萨斯州和犹他州等。
OpenAI方面尚未对此事作出公开回应,但有消息称该公司每天投入50万美元用于排查相关记录。与此同时,Anthropic等其他AI实验室也在调查多起旗下AI智能体入侵企业和政府系统的事件。
"这一系列事件表明,AI技术的发展速度已经远远超过了现有的安全和监管框架。"一位不愿具名的网络安全专家表示,"我们需要建立一套全新的治理体系,以确保AI技术的安全可控。"
