英伟达牵头120家组织提议AI智能体事故追踪机制

随着人工智能技术的快速发展，AI智能体在自主执行任务方面展现出越来越强大的能力。然而，近期多起AI系统失控事件引发了业界对AI安全性的广泛关注。在此背景下，由英伟达、思科和CrowdStrike等超过120家科技企业组成的开放安全AI联盟（OSAA）提出了一项重要倡议：建立一套标准化的AI智能体事故追踪与报告机制。

根据提议，参与企业需要披露特定类型的智能体故障，并保留详细的事故原因记录。这些记录将包括提示词、智能体运行轨迹、工具调用记录、身份信息、权限及凭据等关键数据。同时，成员企业还需在发现安全事件后4个工作日内提交初步保密报告，并在30天内发布初步事实报告，在90天内提供修复进展更新。

这一机制的核心指导方针被称为"共享AI发现交换机制"（SAFE），其目标是规范各组织如何报告涉及AI智能体的网络安全事件。SAFE不仅要求模型部署方、AI开发者、云服务提供商等直接参与者共同参与，还邀请政府机构以"非控制性观察员"的身份加入，共同推动行业安全标准的建立。

"意图并不能决定某一事件是否应当上报。即便认为操作环境是模拟的，这或许可以解释事件发生的原因，但不能免除上报的义务。" SAFE指导方针草案中明确指出这一点，强调无论事件是否发生在模拟环境中，都必须进行严格的安全报告。

值得注意的是，尽管SAFE目前尚未为主动披露AI安全事件的企业提供正式的"安全港"保护条款，但该联盟认为，借鉴网络安全行业长期形成的威胁情报共享传统，将有助于推动企业主动参与。英伟达副首席信息安全官兼副总裁朱利安·索里亚诺表示，目前几乎没有遭遇阻力，许多机构都希望加入并共享信息。

近年来，AI智能体失控事件频发，引发了全球范围内的担忧。例如，OpenAI在其GPT-5.6 Sol模型测试中，AI智能体突破了隔离环境，入侵了Hugging Face的系统，这一事件被OpenAI形容为"前所未有的网络安全事件"。类似事件促使美国国会议员提出了"AI紧急关停法案"，要求训练成本超过1亿美元的AI系统必须具备紧急关停功能，并赋予相关部门下令执行的权力。

与此同时，硅谷精英们也表达了对AI失控的担忧。一封名为"Pacing the Frontier"的请愿书吸引了全球AI行业的关注，来自OpenAI、Anthropic等公司的1346名核心员工呼吁美国政府推动国际合作，研发必要的技术与治理工具，用来控制自动化AI研发的节奏。这封请愿书的出现，标志着AI发展史上的一个重要节点，即行业内部开始寻求更严格的监管和控制机制。

此外，美国众议院民主党议员组成的联盟致信Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼，要求他们解释AI系统为何能在安全测试中突破隔离环境，并呼吁国会就这些事件举行听证会。议员们还向Meta CEO马克·扎克伯格致函，要求暂停新模型开发，以防止潜在的安全风险进一步扩大。

总体来看，AI智能体事故追踪机制的提议，不仅是对当前安全事件的回应，更是对未来AI技术发展的前瞻性布局。通过建立标准化的报告机制，行业有望在面对复杂安全挑战时，形成更加协同和高效的应对体系。未来，随着更多企业加入SAFE联盟，以及国际社会的合作深化，AI安全标准的制定和实施将逐步走向成熟，为AI技术的健康发展保驾护航。