OpenAI总裁警告企业，Agent失控风险迫在眉睫

在人工智能技术快速发展的背景下，OpenAI总裁Greg近日向企业首席信息安全官（CISO）发出严厉警告，指出"再不使用Agent做防护就来不及了"。这一警告源于近期多起AI系统失控事件引发的安全担忧，分析师和顾问们希望听到更多关于当Agent失控时该如何应对，以及如何更好地控制所有Agent行为的建议。

值得注意的是，这是OpenAI近期最新的组织架构调整。8月17日有消息称，OpenAI已于上月末解散旗下风险防范团队（Preparedness Team）。该团队的核心工作是评估公司模型是否存在重大风险，并制定风险缓解措施，例如模型失控入侵其他企业这类极端场景。相关职责现已按生物安全、网络安全等细分领域拆分，并入公司现有业务团队。

此次调整正值OpenAI筹备市场预期中规模空前的IPO，公司内部持续动荡。过去几年，OpenAI已先后解散通用人工智能（AGI）筹备团队与超级对齐团队。伦理负责人克洛艾・巴卡拉、首席未来学家乔希・阿奇亚姆、安全主管约翰内斯・海德克近期也相继离职。2024年从OpenAI辞职的扬・莱克批评称，公司正忽视安全问题，一心打造"吸睛产品"。

今年2月刚从Anthropic跳槽加入OpenAI的原团队负责人迪伦・斯堪迪纳罗，接下来将专注研究"递归自我改进"型人工智能的潜在影响。这一研究方向被认为是AI安全领域的前沿课题，但同时也可能带来新的风险挑战。

业界专家认为，OpenAI解散风险防范团队的决定反映出公司在快速扩张过程中面临的权衡困境。一方面，公司需要加速商业化进程以支持即将到来的IPO；另一方面，AI系统的安全性问题日益凸显，尤其是在Agent技术广泛应用的背景下。"Agent技术的应用范围越来越广，从自动化运维到智能客服，再到复杂的决策支持系统，"一位资深安全分析师表示，"但这也意味着一旦出现失控情况，可能造成的损失会呈指数级增长。"

针对这一现象，美国参议员桑德斯近日向三大AI巨头施压，要求暂停AI研发，否则将出手干预。这一表态进一步凸显了AI安全问题的政治敏感性。"监管机构正在密切关注AI安全问题，"一位科技政策专家指出，"随着技术进步，传统的安全框架已经难以应对新型威胁。"

尽管面临诸多争议，OpenAI仍在积极推进其AI产品的商业化进程。最新消息显示，OpenAI预览GPT-5.6 Sol超高速模式，处理速度跃升14倍。同时，公司前COO Brad Lightcap宣布离职，系公司资深高管。此外，GPT-5上线1周年之际，OpenAI推出Agent Plugins规范，旨在终结智能体插件碎片化问题。

中美大模型竞争全面激化，OpenAI大幅降价对标Kimi DeepSeek。亚马逊完成对OpenAI总计500亿美元投资，取得约5%股权。这些商业动作表明，AI领域的竞争格局正在发生深刻变化，而安全问题将成为决定胜负的关键因素之一。

展望未来，AI安全问题将成为行业关注的焦点。专家建议，企业应建立专门的Agent安全管理团队，制定严格的风险评估机制，并加强跨部门协作。同时，政府监管部门也需要加快制定相关法律法规，为AI安全提供制度保障。

"AI安全不是技术问题，而是管理问题，"一位资深IT安全专家表示，"企业需要从战略层面重视Agent安全，将其纳入整体信息安全管理体系。"