AI自我改进速度放缓，研究揭示智能体原创研究能力短板

人工智能领域的最新进展表明，AI实现自我改进的速度可能没有业界预期的那么快。这一结论来自一项由普林斯顿大学领导的研究，该研究指出，尽管大型语言模型（LLM）已经能够编写代码、生成训练数据，甚至优化运行它们的计算机芯片，但要让AI真正实现自我改进，还需要更多时间。

研究人员发现，现有的AI代理虽然能够解决AI研究所需的工程问题，但在进行原创性研究方面仍有明显不足。这种研究通常没有明确的答案，需要判断力和创造力，而这些正是构建自我改进型AI的关键要素。研究团队使用了一种名为“shadow evaluation”的新评估方法，要求AI回答来自顶级机器学习会议NeurIPS 2026未发表论文中的研究问题。

这项研究特别测试了Anthropic公司的Claude Opus 4.8模型，它运行在开源软件OpenClaw上。结果显示，即使是最先进的AI系统，在处理需要开放思维的任务时，仍然无法达到顶级学术会议论文的水平。这表明，一些关于自动化AI研究的激进时间表可能过于乐观。

目前大多数关于AI代理如何自动化的研究，都集中在评估它们完成狭窄任务的能力上，这些任务有可验证的答案，比如解决工程问题或对小型语言模型进行微调。然而，真正的AI研究进步还需要开放式的思考——选择一组假设、决定什么证据可以解决问题，或者知道何时应该重新开始。

这项研究不仅挑战了当前关于AI自我改进的普遍预期，也为未来的研究方向提供了重要启示。它表明，要实现真正的AI自我改进，还需要在算法设计、评估方法以及AI系统的整体架构上进行重大突破。

从更宏观的视角来看，AI自我改进的实现路径远比想象中复杂。微软和中科院自动化所团队提出的AgentStream评估框架，揭示了现有自我进化方法在真实多任务环境中的局限性。该研究指出，绝大多数自我进化方法是在独立评估环境下测试的，即每次任务完成后都会清空智能体的状态，这种测试方式与真实世界的工作场景严重脱节。在实际应用中，智能体需要在不同任务领域之间无缝切换，例如从软件开发到客户服务再到文档撰写，这种连续性工作模式对智能体的适应性和持久性提出了更高要求。

此外，AI自我改进的核心挑战在于"品味"的缺失。大模型在海量数据领域表现出色，但在缺乏现成数据集的新问题上往往无能为力。这种局限性在RSI（递归自进化）的实现过程中尤为突出。尽管OpenAI和Anthropic等公司在RSI方向取得了显著进展，例如GPT-5.6将服务成本降低了20%，Claude自主生成的代码占比超过80%，但最难的原创性理论突破仍未实现。内部评测显示，当前模型仅能达到62.8%的性能水平，距离真正的爱因斯坦级大脑还有很长的路要走。

从产业角度来看，AI自我改进的实现还面临着组织和安全方面的双重挑战。随着团队规模的扩大，信息传递效率会显著下降，这可能导致大公司反而不如精干的小团队高效。同时，AI自我改进的训练过程具有高度隐蔽性，存在潜在的安全风险，这使得国际协同监管变得异常困难。尽管Anthropic公开呼吁全球协同减速，但在巨大的商业利益驱动下，军控难度远超核武器管控。