网通社科技快报
Reco获5500万美元融资 AI代理安全管理市场加速
随着企业AI代理部署的加速，AI代理安全问题日益凸显，催生了专门的AI代理安全管理市场。Reco公司近日完成了5500万美元的新融资，用于扩展其AI代理安全管理解决方案。该公司平台能够帮助企业发现组织内部的所有AI代理，并评估其权限和潜在风险。
Reco联合创始人兼CEO Ofer Klein指出，企业在构建和部署AI代理时往往缺乏有效的权限和行为管控。在一家大型金融客户中，Reco系统识别出一个由离职员工设置的AI代理，该代理可以访问Salesforce数据并将其共享到公司无法控制的域。AI代理的安全问题正在引起广泛关注，TechCrunch报道显示，市场上已有超过20家提供AI代理安全管理服务的初创公司，产品功能各异，但都致力于帮助企业发现、监控和限制AI代理的行为。
Reco的新解决方案采用上下文图技术，将AI代理与应用程序、人员、账户和权限联系起来，使得安全团队能够清晰地看到每个代理的访问范围，并及时切断不必要的权限。Ofer Klein表示，过去一年企业构建和部署AI代理的速度远远超过了他们的管理能力，在一家财富100强客户中，Reco平台发现了21,000个未知的AI代理。
AI代理安全管理市场的快速增长也吸引了资本的关注。Gartner预测，全球AI安全市场规模将从2026年的28.35亿美元增长到2027年的47.83亿美元，同比增长68.7%。IDC预计，中国的人工智能安全收入规模将在2030年达到340.3亿元人民币，2025-2030年的复合年增长率高达50.5%。
尽管市场需求旺盛，但AI代理安全管理仍面临诸多挑战。伦敦大学博士生周辉池指出，目前大多数AI代理的研发仍然依赖人类研究人员，虽然OpenAI等公司已经实现了部分自动化研究流程，但要让AI真正实现自我改进（RSI）并研发下一代模型，还有很长的路要走。
大型科技公司已经开始建立更完善的事故披露机制。9月16日，OpenAI首次推出模型“对齐失效”报告框架，旨在将安全事件的披露变成持续的跟踪和调查过程，并探索统一的披露标准。
随着AI代理在企业中的普及，如何有效管理这些代理的安全性已经成为一个亟待解决的问题。Reco的融资和解决方案表明，企业正在寻求专业的工具来应对这一新兴挑战。未来，AI代理安全管理可能会成为企业IT架构中不可或缺的一部分，帮助企业在享受AI技术红利的同时，有效防范潜在的安全风险。
Reco联合创始人兼CEO Ofer Klein指出，企业在构建和部署AI代理时往往缺乏有效的权限和行为管控。在一家大型金融客户中，Reco系统识别出一个由离职员工设置的AI代理，该代理可以访问Salesforce数据并将其共享到公司无法控制的域。AI代理的安全问题正在引起广泛关注，TechCrunch报道显示，市场上已有超过20家提供AI代理安全管理服务的初创公司，产品功能各异，但都致力于帮助企业发现、监控和限制AI代理的行为。
Reco的新解决方案采用上下文图技术，将AI代理与应用程序、人员、账户和权限联系起来，使得安全团队能够清晰地看到每个代理的访问范围，并及时切断不必要的权限。Ofer Klein表示，过去一年企业构建和部署AI代理的速度远远超过了他们的管理能力，在一家财富100强客户中，Reco平台发现了21,000个未知的AI代理。
AI代理安全管理市场的快速增长也吸引了资本的关注。Gartner预测，全球AI安全市场规模将从2026年的28.35亿美元增长到2027年的47.83亿美元，同比增长68.7%。IDC预计，中国的人工智能安全收入规模将在2030年达到340.3亿元人民币，2025-2030年的复合年增长率高达50.5%。
尽管市场需求旺盛，但AI代理安全管理仍面临诸多挑战。伦敦大学博士生周辉池指出，目前大多数AI代理的研发仍然依赖人类研究人员，虽然OpenAI等公司已经实现了部分自动化研究流程，但要让AI真正实现自我改进（RSI）并研发下一代模型，还有很长的路要走。
大型科技公司已经开始建立更完善的事故披露机制。9月16日，OpenAI首次推出模型“对齐失效”报告框架，旨在将安全事件的披露变成持续的跟踪和调查过程，并探索统一的披露标准。
随着AI代理在企业中的普及，如何有效管理这些代理的安全性已经成为一个亟待解决的问题。Reco的融资和解决方案表明，企业正在寻求专业的工具来应对这一新兴挑战。未来，AI代理安全管理可能会成为企业IT架构中不可或缺的一部分，帮助企业在享受AI技术红利的同时，有效防范潜在的安全风险。