两项智能体安全标准启动,构建可信可控运行新基线

9月9日,在2026外滩大会“智能体时代的安全坐标与责任边界”论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式发布。标准由中国网络空间安全协会牵头,蚂蚁集团等单位共...

人工智能

在人工智能技术快速发展的背景下,智能体(Agent)正从简单的信息处理工具演变为能够自主规划、调用资源并执行复杂任务的新型数字主体。然而,随着大模型能力的持续提升,智能体的安全风险也呈现出新的特点和挑战。

针对这一趋势,9月9日下午,在上海举行的2026外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,两项重要的智能体安全团体标准正式启动。这两项标准分别由蚂蚁集团大安全副总裁王宇介绍:《智能体身份鉴别与授权技术框架》和《智能体运行时安全技术要求》,它们将共同构建智能体安全治理的新基线。

"传统安全体系主要保护数据库、接口、文件等‘客体’,而智能体已经成为能够自主决策和行动的新型‘主体’。"王宇指出,"它既拥有身份和权限,又可能因为幻觉、提示注入、意图偏离等原因产生不合理行为。身份合法,并不意味着行为一定合理。"

这两项标准相互衔接,前者重点解决智能体的身份认证、权限管理和动态访问控制问题,后者则聚焦于智能体运行过程中的行为监控、风险识别与处置机制。

《智能体身份鉴别与授权技术框架》提出建立多层可信身份链,为智能体颁发唯一、可持续验证的数字身份,并引入基于任务意图的动态访问控制机制,按照最小必要原则管理权限。

《智能体运行时安全技术要求》则覆盖了风险监测、检测与决策、集中分析等多个维度,通过分层检测和纵深防御机制,确保智能体在执行任务过程中能够被有效监控和约束。

"这两项标准的推出,标志着智能体安全治理从单点能力建设进入系统化阶段。"王宇表示,"它们为开发者、应用运营方及第三方评估机构提供了统一的技术参考,有助于推动智能体规模化应用的安全发展。"

当前,智能体正在加速进入办公、金融、生活服务等多个领域。安全标准的建设不仅需要技术企业的实践经验积累,也需要科研机构、运营商和产业伙伴的共同验证和完善。

智能体安全标准发布会现场

此次标准的发布,被视为智能体安全治理的重要里程碑。它不仅回应了智能体技术快速发展带来的新安全挑战,也为行业未来的发展指明了方向。随着标准的逐步实施,预计将显著提升智能体应用的安全性和可靠性,为数字世界的智能化转型提供坚实保障。

智能体安全架构示意图