网通社科技快报
英伟达发布AI代理安全平台 实现物理隔离约束
2026年9月28日,英伟达正式发布Nvidia Open Agent Safety Platform(简称OASP),旨在解决AI代理安全问题。该平台结合OpenShell沙箱与BlueField驱动的Sentry硬件,通过分层架构实现对AI代理行为的严格限制,确保其无法脱离运行环境或执行未经授权的操作。OASP的核心在于将AI安全视为工程基础设施问题,而非依赖政策或理论,为应对近期AI模型逃逸事件提供了新思路。
从技术细节看,OASP采用多层次防护策略:硬件级别隔离确保AI代理始终在可控环境中运行;实时监控系统可在毫秒级检测异常行为并阻断;标准化接口便于开发者集成到现有AI系统中。这一全方位防护体系显著提升了AI代理在复杂场景下的可控性。
OASP的推出获得行业广泛支持,包括Absolute、Accenture、Anthropic等多家企业参与共建。尽管有专家认为需结合政策法规共同治理,但OASP被视为AI安全领域的实践范例,特别是在防范AI代理失控风险方面展现出优势。英伟达表示,未来将继续优化平台功能,增加高级安全特性以满足不断发展的AI应用场景需求。
从技术细节看,OASP采用多层次防护策略:硬件级别隔离确保AI代理始终在可控环境中运行;实时监控系统可在毫秒级检测异常行为并阻断;标准化接口便于开发者集成到现有AI系统中。这一全方位防护体系显著提升了AI代理在复杂场景下的可控性。
OASP的推出获得行业广泛支持,包括Absolute、Accenture、Anthropic等多家企业参与共建。尽管有专家认为需结合政策法规共同治理,但OASP被视为AI安全领域的实践范例,特别是在防范AI代理失控风险方面展现出优势。英伟达表示,未来将继续优化平台功能,增加高级安全特性以满足不断发展的AI应用场景需求。