AI智能体规模化落地前,企业治理需先解决‘谁在行动’问题

随着AI智能体从单模型演示进入规模化应用阶段,其匿名运行、身份模糊、权责虚化等问题正引发企业治理新挑战。Snowflake提出五步管控框架,中关村等机构推出AI-DPP数字护照体系,共同指向一个核心命...

人工智能

当AI智能体不再仅限于回答问题,而是能自主查询数据库、调用API、执行写入操作时,企业IT治理的边界被彻底重构。2026年,行业智能体、办公智能体与终端智能体正加速进入政务、制造、金融等关键场景,但其匿名化运行、身份模糊、权责虚化等治理短板,已成为规模化落地的主要瓶颈。

文章配图

传统基于用户身份与角色的访问控制机制,在智能体介入后迅速失效。问题在于:智能体常以最终用户身份发起会话,继承其全部权限——即便任务仅需读取某张表,它也可能将敏感字段汇总后传递给外部工具,或通过可视化界面呈现给无权人员,造成系统性数据泄露风险。这种“权限继承+行为不可控”的组合,使企业面临前所未有的治理盲区。

为应对这一挑战,数据平台厂商Snowflake提出了结构化的五步治理路径:识别(Identify)、限制(Restrict)、保护(Protect)、控制(Control)与审计(Audit)。这五项措施分别对应五个根本性问题:智能体是谁?它能做什么?它能看到什么?它能消耗多少资源?它做过什么?

其中,“识别”是前提。Snowflake通过会话上下文标识(如SYS_CONTEXT('SNOWFLAKE$CURRENT', 'IS_AGENT_ACTIVATED')返回TRUE)区分智能体会话与人工会话,并支持对Cortex Agents、CoCo客户端及外部MCP服务器等主流智能体类型进行自动识别。对于外部智能体,平台提供两种方案:为自主型智能体创建独立的SERVICE_AGENT用户;为委托型智能体在OAuth集成中设置IS_AGENTIC = TRUE标志。一旦识别成功,后续所有策略与审计均可基于该上下文动态生效。

仅识别尚不足够。智能体受限会话范围(Agent Restricted Session Scope)功能现已正式发布,它与RBAC协同工作,为智能体代表用户执行操作时设定权限上限。例如,管理员可部署策略SNOWFLAKE$DATA_READ_WITH_AI,允许智能体在会话中读取数据、发现对象、调用AI相关函数,但禁止DDL、写入、授权及存储过程执行。关键在于:该机制不会赋予用户本身不具备的权限,仅在原有权限基础上做减法——这是与传统RBAC的本质区别。

权限限制之外,数据层面的保护同样关键。即使智能体被限制为只读,它仍可能访问用户有权查看的敏感字段。此时需依赖数据策略(如行级安全、列掩码)进一步过滤可见内容。Snowflake强调,会话范围控制的是“能访问哪些位置”,而数据策略控制的是“到达后能看到哪些值”,二者缺一不可。

资源消耗与行为审计构成闭环。智能体可能因循环调用或并发请求导致计算资源过载,因此需设定per-user AI配额;而QUERY_HISTORY.agent_type与ACCESS_HISTORY.agents_info等字段则记录智能体行为链,支持追溯嵌套调用中的多层代理关系,确保操作全程留痕。

除技术方案外,行业层面也在构建统一治理基础设施。近期,中关村工信二维码技术研究院等三家机构联合推出AI-DPP(AI Digital Passport Protocol)智能体数字护照体系,覆盖身份标识、委托授权、权限管控、行为追溯与异常熔断五大环节。该体系旨在解决跨平台协同中的“黑箱互联”问题——不同平台的智能体因缺乏统一身份认证与互信机制,难以互相核验,用户也无法追溯具体实例的数据修改、权限申请或交易行为。

AI-DPP的核心逻辑是:智能体的运行实例、权限状态与任务场景可以动态变更,但所有操作行为、调用记录与权限变更的原始证据链必须持久留存,不得随复制、重启或销毁而丢失。这与“全程留痕、可查可溯、权责明晰”的治理要求高度一致。

当前治理实践仍面临三重卡点:一是身份体系碎片化,导致跨域协同困难;二是权限最小化原则落实不足,大量智能体仍以高权限账户运行;三是异常行为响应滞后,缺乏默认拦截与自动降级机制。行业共识是,必须坚持“安全前置、标准先行、治理同步”,对越界调用、凭证过期、异常操作默认拦截,并建立回滚、处置与责任追溯闭环。

Snowflake中为智能体配置只读权限的界面示例

值得注意的是,治理升级并非单纯技术问题,更涉及组织流程变革。当智能体可代表员工提交报销、审批合同甚至发起资金划转时,企业需重新定义“操作主体”——是最终用户负责,还是智能体开发者担责?抑或平台方承担连带责任?目前尚无统一法律框架,但监管趋势已明确指向“行为可归因、责任可锁定”。

在金融与政务等强监管领域,已有机构试点将智能体操作纳入现有合规审计流程,要求所有AI驱动的业务动作附带数字签名与操作链存证。例如,某省级政务平台要求智能体处理公民信息时,必须调用经备案的DPP凭证,并实时向监管节点上报调用日志。

未来一年,随着更多企业部署智能体工作流,治理能力将成为评估AI落地成熟度的关键指标。技术厂商正从“提供工具”转向“共建治理体系”,而企业IT部门的角色也将从系统维护者,逐步演变为AI行为的监督者与风险守门人。

智能体的真正价值不在于能否自主行动,而在于能否在可控、可溯、可信的前提下持续创造价值。当“谁在行动”这个问题得到清晰解答,AI才可能从效率工具升维为组织信任的数字伙伴。