DeepMindCEO卸任前推动筹建AI安全机构，对标IAEA强化行业自律

在人工智能（AI）技术快速发展的背景下，谷歌旗下DeepMind的联合创始人兼前CEO戴米斯·哈萨比斯（Demis Hassabis）近期的一系列动作引发了业界广泛关注。据《华尔街日报》报道，在其卸任谷歌DeepMind首席执行官职位之前的几周时间里，哈萨比斯已与美国政府官员以及多家AI实验室负责人展开密集讨论，旨在推动建立一个全新的独立AI行业安全机构。

作为机器学习领域的先驱和DeepMind的联合创始人，哈萨比斯近年来将更多精力投入到推动AI安全机制的建设中。知情人士透露，他在与同行交流时曾明确表示，拟议中的AI安全机构将参照国际原子能机构（IAEA）的模式运作，后者是一个致力于促进核能合作的非政府监督机构。这一类比表明，哈萨比斯希望创建一个能够为通用人工智能（AGI）开发提供指导和规范的行业自律组织。

根，哈萨比斯在今年夏初与特朗普政府的高级官员进行了深入讨论，其中包括美国财政部长斯科特·贝森特（Scott Bessent）以及总统的高级科技顾问迈克尔·克拉西奥斯（Michael Kratsios）。尽管哈萨比斯本人未对此事发表评论，但谷歌发言人表示，公司认为确保先进AI模型的安全对社会至关重要，而哈萨比斯在推动这一目标方面具有独特优势。

值得注意的是，哈萨比斯的这一计划并非孤立事件。就在他提出构想的同一时期，超过1100名AI研究人员和高管联署了一封公开信，呼吁各国政府在安全措施无法跟上AI发展速度时，提供一种能够主动放慢前沿AI发展节奏的机制。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）是唯一一位在公开信上签名的前沿AI实验室首席执行官，OpenAI的多位高层也联袂签署。

哈萨比斯的提议与公开信的核心诉求高度一致。他在7月中旬于X平台发布的一篇长文中提出，美国应该建立一个由行业资助的"标准机构"，以帮助评估AI模型的安全性。他建议该机构的运作方式可以参考金融业监管局（FINRA），后者是在大萧条时期成立的一个自律监管机构，负责监督经纪公司，由金融行业提供资金支持。

根据哈萨比斯的计划，联邦机构以及美国能源部下属的国家实验室将与AI公司合作，在"与国家安全相关的领域"对模型进行测试，并建立一套资格认定体系。若模型达到特定标准，即可获得"前沿级"标签。这一机制旨在为AI模型的发布前审查提供一套标准化流程。

上周，谷歌宣布对其AI研究部门DeepMind进行重大管理层调整，哈萨比斯卸任CEO，由副手科雷·卡武库丘奥卢（Koray Kavukcuoglu）接任。哈萨比斯被任命为DeepMind董事长兼Alphabet首席科学家。这一人事变动被视为DeepMind战略转型的重要信号，公司未来可能更加专注于基础科学研究而非商业化应用。

与此同时，美国国会层面也在加速推进相关立法。上周，国会议员特德·刘（Ted Liu）与纳撒尼尔·莫兰（Nathaniel Moran）联合提出跨党派的《AI断电开关法案》，要求规模最大的前沿系统开发者具备在紧急情况下暂停或限流相关模型的技术能力。白宫正在审议参照金融行业监管模式设计的治理提案。

在工程实践层面，业界可以预见：隔离测试环境将得到更多重视，红队测试将更为深入，针对自主智能体的运行时监控将持续强化，高能力系统上线前的验证周期也将相应延长。OpenAI此次的安全事件表明，模型能够利用复杂的漏洞链发动攻击，而这恰恰是传统对齐技术从未被设计用来应对的场景。

值得注意的是，这封公开信并未主张全面暂停AI开发，这与奥特曼本周早些时候的表态高度一致——他表示，业界"或许必须控制AI的发展速度，为社会适应新的能力水平争取足够时间"，同时提醒任何方案都须避免监管俘获，也不能助长前沿实验室之间的串通行为。