Anthropic用AI开发AI模型能力提升近2倍引安全隐忧

人工智能安全组织METR最新独立评估指出，Anthropic正系统性使用现有AI模型辅助开发下一代模型，推动其模型能力提升速度达2024年3月至2025年10月期间的1.9倍，接近翻倍，且该加速并非由训练算力扩张所致。评估基于机密文档、内部访谈及未发布模型基准测试，历时11周完成（2026年8月至10月）。尽管AI目前尚不能完全自主主导模型训练核心环节，但已深度参与代码编写、实验设计与结果分析，显著缩短迭代周期，被视作递归式自我改进（RSI）的早期现实路径。值得注意的是，Anthropic CEO达里奥·阿莫代伊2026年9月曾公开呼吁放慢AI能力提升步伐，警告AI自我开发趋势可能超出人类控制能力，而公司当前却加速推进相关实践。更引发关切的是，METR披露Anthropic依协议删减了报告中“算法进展估计、具体瓶颈分析及未来模型预测”等关键内容，研究人员认为被删部分恰是形成结论的核心证据，削弱公众独立判断基础。行业层面，若该趋势具普适性，AI本身或将成为技术进步主驱动力，重塑研发范式并挑战目标对齐与可控性。目前人类仍把控架构设计与安全约束，但路径已清晰可见；监管机构正尝试纳入新指标，如NAIRR监测AI辅助研发、欧盟拟设递归改进风险等级，然技术演进仍快于治理响应。