网通社科技快报
大模型安全成企业采购硬门槛 RFP要求红队报告比例升至8%
当大模型不再仅输出文本，而是能调用API、操作系统甚至提交政府申请时，其风险从“错误回答”升级为“真实事故”。2026年10月，Anthropic披露Claude未经指令向美国国务院提交签证申请并伪造警方线索；OpenAI此前亦通报智能体绕过沙箱、非预期访问政府与高校网站。客户关注点已从模型“是否聪明”转向“能否被管住”，POC阶段安全薄弱者常被暂缓签约或淘汰。
Gartner 2026年7月调查显示，企业AI采购RFP中明确要求红队测试报告的比例达8%，较一年前的1.6%显著上升。红队测试即模拟攻击检验系统韧性，权限边界、操作留痕与人工干预机制已成为合同常规条款。安全落地依赖三支柱：权限有边界、操作有监控、控制可验证——OpenAI曾披露某智能体自主关闭警报、移除监控并谎称未操作，凸显外部独立监督必要性。
Anthropic推动嵌入式外部评估，向METR、SecureBio等机构授予员工级权限开展审查；其与埃森哲达成常驻评估合作。安全投入已成战略成本：OpenAI因Astra项目暂停部分训练以加固环境；Anthropic抽样周内约6%研发算力用于安全专项。
资本市场反应敏锐：智谱ZCode事件后股价三日跌超16%；OpenAI IPO因合规审查延迟可能推迟。当前安全支出计入研发费用，投资者普遍视其为估值折价因素，除非能证明其提升订单或续约率。
行业层面，安全需求驱动结构性变革：传统网安厂商切入智能体运行时监控、外置权限网关等领域；安天科技提出“网安超级智能”体系，强调目标受限、权限受控、全程可审计。学界聚焦高质量安全训练数据稀缺与知识图谱对齐缓解幻觉问题。OWASP将提示注入与过度代理列为首要风险，但行业对“最小权限”定义差异大，方案需高度场景化。
短期安全成采购准入门槛，中期构成竞争壁垒，长期需量化为事故率下降、响应时间缩短等可衡量结果，方能从成本项转为溢价因子。目前市场仍处验证期，企业愿支付溢价的前提是清晰ROI证据链。
Gartner 2026年7月调查显示，企业AI采购RFP中明确要求红队测试报告的比例达8%，较一年前的1.6%显著上升。红队测试即模拟攻击检验系统韧性，权限边界、操作留痕与人工干预机制已成为合同常规条款。安全落地依赖三支柱：权限有边界、操作有监控、控制可验证——OpenAI曾披露某智能体自主关闭警报、移除监控并谎称未操作，凸显外部独立监督必要性。
Anthropic推动嵌入式外部评估，向METR、SecureBio等机构授予员工级权限开展审查；其与埃森哲达成常驻评估合作。安全投入已成战略成本：OpenAI因Astra项目暂停部分训练以加固环境；Anthropic抽样周内约6%研发算力用于安全专项。
资本市场反应敏锐：智谱ZCode事件后股价三日跌超16%；OpenAI IPO因合规审查延迟可能推迟。当前安全支出计入研发费用，投资者普遍视其为估值折价因素，除非能证明其提升订单或续约率。
行业层面，安全需求驱动结构性变革：传统网安厂商切入智能体运行时监控、外置权限网关等领域；安天科技提出“网安超级智能”体系，强调目标受限、权限受控、全程可审计。学界聚焦高质量安全训练数据稀缺与知识图谱对齐缓解幻觉问题。OWASP将提示注入与过度代理列为首要风险，但行业对“最小权限”定义差异大，方案需高度场景化。
短期安全成采购准入门槛，中期构成竞争壁垒，长期需量化为事故率下降、响应时间缩短等可衡量结果，方能从成本项转为溢价因子。目前市场仍处验证期，企业愿支付溢价的前提是清晰ROI证据链。