Agent行动许可系统雏形初现,2026年治理框架正在形成

随着AI Agent从语言交互走向真实业务操作,其治理重心正从内容安全转向执行权限管理。中国正在构建一套包含身份认证、授权控制、运行时拦截与责任追溯的Agent治理框架,核心挑战在于如何在赋予机器行动...

人工智能

当用户对手机中的AI Agent说"帮我订下周去上海的机票"时,这个简单的指令背后隐藏着复杂的系统协作:日历读取、身份验证、价格比对、航班选择、订单提交、支付调用以及行程记录。这种从虚拟对话到真实业务操作的跨越,标志着AI治理进入了一个全新的阶段——Agent时代。

在过去,AI主要活跃于语言生成领域,其输出内容的安全性是治理的核心。然而,随着Agent开始接入文件系统、企业后台、支付账户等真实业务流程,治理对象已经从模型生成的内容扩展到了机器的具体动作。这种转变催生了一个全新的问题:当机器能够代表人类执行具体任务时,如何既能赋予其必要的行动权,又能确保人类始终掌握最终的控制权?

这一问题的答案正在形成一套完整的Agent行动许可系统。该系统的核心要素包括身份认证、授权管理、动作控制、运行时拦截、审计记录以及责任追溯。以一个典型的Agent为例,其运行过程可以分解为以下几个关键环节:首先,Agent需要通过身份验证(如ATI身份发现)确认自身合法性;其次,在获得用户明确授权后(如principal=用户, agent=旅行助手, task=订机票),才能调用相应的工具(如支付接口);在每次具体操作前,系统会进行风险评估和权限校验(如Action Control Layer);最后,所有操作都会被完整记录,以便在出现问题时进行责任追溯。

文章配图

值得注意的是,这套治理框架并非凭空产生,而是建立在一系列政策文件的基础之上。今年5月发布的《智能体规范应用与创新发展实施意见》首次将智能体定义为同时具备感知、记忆、决策、交互与执行能力的系统,并明确提出要探索智能体注册平台、数字身份管理、可信互联、合规支付等一系列治理措施。9月发布的《人工智能安全治理框架3.0》进一步将智能体风险单列出来,覆盖设计、部署、指令输入、规划、工具调用、记忆、输出与停用等全生命周期环节。

"Agent不是人,但人的代理权正在被软件化。"一位行业专家指出,过去的人类代理关系主要存在于合同、组织关系和法律文本中,而现在,这种关系正在被转化为可编程、可验证的机器语言。例如,一个旅行助手的授权可以通过结构化的运行时对象来表达:principal=用户, agent=旅行助手, task=订机票, budget<5000, payment=allowed, contract=prohibited, expires=周五, redelegation_depth=2, revoke=anytime。这种表达方式不仅清晰地界定了代理关系,还通过技术手段确保了权限的可控性。

尽管中国已经在Agent治理方面迈出了重要一步,但当前的治理体系仍存在一些亟待解决的问题。首先是责任追溯层的建设相对薄弱,如何在多Agent协作场景下准确划分责任仍然是一个难题。其次是三层治理基础设施的建设进度不均衡,信任平面和授权平面已经初具规模,但责任平面的标准化工作仍在进行中。此外,随着Agent能力的不断提升,如何在保证安全性的同时实现灵活的权限管理,也是一个需要持续探索的方向。

展望未来,Agent行动许可系统的完善将成为AI治理的重要突破口。在这个过程中,技术开发者、政策制定者和行业从业者需要共同努力,既要确保Agent能够高效地完成任务,又要通过技术手段牢牢把握住最终的控制权。只有这样,才能真正实现人机协作的安全与高效。