Anthropic推50人伤亡门槛监管草案引众怒 CEO承认三处失误

Anthropic近期陷入信任危机，因其被曝私下向美国国会提交《人工智能评估、治理与事件安全法》（AEGIS Act）草案，核心条款规定政府须证明AI模型可能导致50人以上死亡或重伤、或超10亿美元财产损失，方可申请司法禁令。该草案还设置商务部长亲自批准、说明危险时间及排除其他手段等程序限制，并限定临时禁令仅45天；同时提出“联邦优先原则”，可能削弱州级监管权。尽管草案整体涵盖风险报告、第三方评估等内容，但高干预门槛引发广泛批评——尤其对比加州SB 53法案中50人阈值仅用于事前风险识别，而Anthropic将其嵌入禁令程序，实质抬高叫停难度。昔日盟友Encode组织首席战略官Nathan Calvin公开质问其身份定位，指出公司近年加速AGI布局：签署超5000亿美元算力协议、组建芯片团队、Claude内部研发参与率从3月0%升至8月26%。面对舆论压力，CEO达里奥于10月下旬发布长文回应，承认草案存在三处处理不当：对政府行动施加过多程序限制、忽视州权问题、部分措辞易致误解；但他强调未背离安全初心，并首次披露曾主动压制具备攻击能力的Mythos模型达4个月未发布。Anthropic虽在技术层面持续践行安全实践（如Constitutional AI框架、红队测试报告），但此次事件暴露其作为规则倡导者与竞争参与者双重角色间的张力。目前草案仍处讨论阶段，但已引发多个安全组织反对、投资者重估治理透明度，监管机构亦关注其程序限制对应急响应的潜在削弱。达里奥结尾称“强健的抗体对抗 corporate power 是自由社会的健康特征”，既致谢批评者，亦显自省姿态。