首个RSI实验揭示AI自进化边界

近日,Weco公司发布了一项关于AI递归自我改进(Recursive Self-Improvement, RSI)的重要实验报告,标题为《AIDE²:递归自我改进的首个证据》。这项研究不仅验证了AI在...

人工智能

近日,Weco公司发布了一项关于AI递归自我改进(Recursive Self-Improvement, RSI)的重要实验报告,标题为《AIDE²:递归自我改进的首个证据》。这项研究不仅验证了AI在自动化研发领域的潜力,也为理解AI自进化能力设定了明确的门槛。

一、AIDE²的核心突破:一级RSI的达成 AIDE²系统由内外两层Agent构成。内层Agent负责具体的研发工作,如代码修改、实验运行和结果评估;外层Agent则对内层Agent的工作方式进行优化。实验结果显示,在固定成本约束下,AIDE²能够持续发现比人工手调更有效的改进方案,这标志着它成功达成了第一级RSI(Net Positive Level)。

值得注意的是,AIDE²并未涉及模型权重的直接修改,而是通过优化Agent的外部代码与流程来提升效率。这种设计使其更接近于"自动化的Agent研发工程师",而非完全自主训练的通用智能体。

二、实验的关键约束机制 为了确保实验结果的可靠性,Weco设置了多重硬性约束:

  • 公开分与私有分分离:防止系统将"让分数变好"误认为"把事情做好"
  • 固定成本限制:按美元计量每次评估的成本上限,避免通过无限试错或资源堆砌来提高命中率
  • 任务异质性要求:混合了机器学习工程、组合优化等多种任务,提高过拟合门槛
  • 这些机制共同构成了AIDE²的实验对象,使其优化目标从单一基准测试转向"在受限预算下持续发现跨任务有效的研发方法"。

    三、RSI分级体系的启示 Weco提出了一个四级RSI分级体系,清晰界定了AI自进化的不同阶段:

    • 零级:委托式自动化,效率仍低于人类团队

    • 一级:净正向改进,成果可迁移且成本不随表现无限上升

    • 二级:点火阶段,系统开始改进自己的改进能力

    • 三级:拐点阶段,进步速度开始加速

    图片

    当前AIDE²的研究表明,它已经跨越了第一种能力的严格版本,但尚未触及第二种能力的核心——即系统能否真正改进自身的改进能力。

    四、行业进展与未来展望 尽管AIDE²取得了重要进展,但业界普遍认为,要实现真正的AI自进化,还需要解决多个关键问题。例如,如何让AI发现新的算法架构,如何建立下一代训练范式,以及如何在保持效率的同时实现更深层次的创新。

    田渊栋博士指出,即使AI开始自进化,人类在深层理解、判断力和复杂情境应对方面的独特优势仍然是不可替代的护城河。未来的智力分工将发生深刻变化,但人类的创造性思维和价值判断仍将占据核心地位。

    这项研究不仅为AI自进化设定了明确的技术路线图,也为理解AI与人类的关系提供了新的视角。随着技术的不断演进,AI在自动化研发中的作用将日益增强,但人类在创新决策和价值判断方面的独特价值依然无可替代。