英伟达开放安全AI联盟名单出炉,OpenAI与Anthropic缺席引发关注

近日,人工智能领域迎来一项重要动态:英伟达宣布成立"开放安全AI联盟"(Open Secure AI Alliance)。这一由37家企业共同组建的联盟,标志着AI安全领域的一次重大集体行动,但值得注...

人工智能

近日,人工智能领域迎来一项重要动态:英伟达宣布成立"开放安全AI联盟"(Open Secure AI Alliance)。这一由37家企业共同组建的联盟,标志着AI安全领域的一次重大集体行动,但值得注意的是,OpenAI、Anthropic和Google等业界巨头均未出现在联盟名单中。

图片

作为联盟的核心发起者,英伟达展示了其NOOA框架(NVIDIA Labs Object-Oriented Agent),这是一个基于Python类设计的智能体开发框架,在多个基准测试中表现出色。此外,Hugging Face贡献了Safetensors安全权重格式,IBM和Red Hat联合推出了Lightwell供应链数字签名补丁,微软则提供了MDASH多模型智能体扫描harness等工具。

"智能体的安全需要整个技术栈的开放性,"英伟达CEO黄仁勋在推文中强调,"只有当防御者能够审查、测试和改进每一层时,才能有效抵御攻击。"

从公开信到联盟官宣,AI行业迅速形成了三大阵营:第一阵营包括英伟达、微软、Meta等32家公司,既支持开放权重理念,也积极参与联盟;第二阵营为OpenAI和Google,虽然签署了支持开放权重的公开信,但选择不加入联盟;第三阵营仅剩Anthropic,不仅未签署公开信,也拒绝加入联盟,其CEO Dario Amodei亲自发表声明表达了不同立场。

"我们相信,AI安全需要全球协作,"英伟达在官方声明中表示,"通过开源社区分享模型、工具和研究成果,我们可以扩大防御能力。"

这一联盟的成立,不仅反映了AI安全领域对开源协作的重视,也凸显了当前AI行业在模型开放性与商业策略之间的深刻分歧。随着AI技术的快速发展,如何平衡技术创新与安全防护,已成为业界亟待解决的重要课题。