OpenAI前董事Helen Toner警示 AI安全不能依赖CEO个人道德

2023年11月17日，OpenAI董事会以沟通不坦诚为由解雇CEO Sam Altman，引发700多名员工联名抗议，5天后Altman即重返岗位、原董事会集体辞职。时任非营利董事会成员、现乔治城大学CSET执行主任Helen Toner是四名支持解雇的董事之一。她在近期访谈中直言：“如果AI安全计划依赖任何一个人值得信任，那我们已经完蛋了。”她认为问题不在Altman个人可信度，而在于制度设计将安全责任押注于个体品德存在致命缺陷。OpenAI“非营利+营利”架构本意是制衡商业冲动，但实际运作中，董事会否决权迅速被员工施压与资本介入瓦解。托纳指出，当前主流“AI对齐”路径忽视训练数据、奖励函数与商业目标的系统性激励错配——例如为提升留存率优化的推荐逻辑可能无意放大偏见。她提出三项替代方案：建立外部独立审计机制、跨机构红队协作网络、将安全指标（如对抗提示失败率、偏见系数）纳入融资与上市硬性条件。她强调安全应是产品设计前置条件而非事后补救，并警示AI实验室正加速从使命驱动转向盈利导向，而全球尚无具执行力的统一安全标准。麦肯锡2026年报告显示头部实验室算力投入年增68%，参数规模每18个月翻倍，在此加速度下，依赖CEO良知作为最后防线无异于在悬崖边搭纸牌屋。托纳总结：“我们需要的不是更完美的领导者，而是更坚固的护栏。”