网通社科技快报
百度文心首次落地RSI系统 ERNIE Evolve提升推理性能最高623.6%
11月9日,百度文心团队首次系统披露递归自我改进(RSI)研究进展,核心成果为自研自动研究系统ERNIE Evolve,该系统已实际应用于即将发布的文心5.5 Flash模型推理优化环节。RSI旨在构建AI自主参与自身迭代的闭环研发范式,ERNIE Evolve采用双层循环架构,由Director、Selector、Executor、Evaluator、Reviewer等智能体协同完成假设提出、实验执行、结果评估与经验沉淀,每轮实验数据均结构化存档。
在公开基准测试中,ERNIE Evolve在NanoChat AutoResearch、NanoGPT Speedrun Track 1/3及SOL-ExecBench四项任务中全面超越现有SOTA:验证集困惑度降至0.8763,训练加速任务耗时缩短至38.9秒,GPU核函数优化平均SOL得分达0.819。
更重要的是,该系统已完成工程落地:在昆仑芯P800芯片上,通过4轮探索引入融合算子与投机解码等策略,生成速度提升至基线623.6%;在确定性推理场景中,3天内并行优化采样策略与算子调度,吞吐量达基线133.7%,首token延迟降低12%;在极致解码优化中,7个方向探索带来114.9%性能提升且精度无损。所有优化均经压测与生产验证,全程无人工干预。
文心技术博客指出,推理优化是RSI落地首个切口,后续将拓展至训练系统与能力边界探索。当前定位聚焦“让模型跑得更快更稳”,而非直接增强模型能力。文心5.5 Flash预计近期发布,此举标志着RSI迈入工程化临界点,有望重塑大模型研发节奏与成本结构。
在公开基准测试中,ERNIE Evolve在NanoChat AutoResearch、NanoGPT Speedrun Track 1/3及SOL-ExecBench四项任务中全面超越现有SOTA:验证集困惑度降至0.8763,训练加速任务耗时缩短至38.9秒,GPU核函数优化平均SOL得分达0.819。
更重要的是,该系统已完成工程落地:在昆仑芯P800芯片上,通过4轮探索引入融合算子与投机解码等策略,生成速度提升至基线623.6%;在确定性推理场景中,3天内并行优化采样策略与算子调度,吞吐量达基线133.7%,首token延迟降低12%;在极致解码优化中,7个方向探索带来114.9%性能提升且精度无损。所有优化均经压测与生产验证,全程无人工干预。
文心技术博客指出,推理优化是RSI落地首个切口,后续将拓展至训练系统与能力边界探索。当前定位聚焦“让模型跑得更快更稳”,而非直接增强模型能力。文心5.5 Flash预计近期发布,此举标志着RSI迈入工程化临界点,有望重塑大模型研发节奏与成本结构。