百度文心披露RSI进展,ERNIEEvolve系统已用于文心5.5Flash推理优化
百度文心于11月9日首次公开递归自我改进(RSI)研究进展,其自主研究系统ERNIE Evolve已在文心5.5 Flash的推理优化中落地应用,在昆仑芯P800低时延、确定性吞吐及解码速度三项关键指...
11月9日,百度文心团队首次系统披露其在递归自我改进(Recursive Self-Improvement, RSI)方向的实质性进展。核心成果是名为ERNIE Evolve的自动研究系统,该系统已投入文心5.5 Flash模型的推理优化实战,并在多个生产级场景中验证了其有效性。
RSI被视为下一代AI研发范式的关键探索路径——让AI模型直接参与自身能力的迭代过程,形成“提出假设—设计实验—验证结果—积累经验”的闭环。目前OpenAI、Anthropic、腾讯、智谱等机构均在推进相关研究,而百度此次披露的是首个明确应用于真实产品优化的RSI系统案例。
ERNIE Evolve采用双层循环架构:外层负责宏观研究方向规划与多线并行探索;内层则聚焦具体技术路径的持续迭代。系统内部由多个智能体协同运作——Director选定研究主题,Selector设定实验目标与代码起点,Executor执行代码修改与版本生成,Evaluator独立评测性能,Reviewer复核逻辑一致性与目标偏离风险。每轮实验的代码变更、结果数据与经验沉淀均被结构化记录,为后续研究提供知识基础。
在基准测试层面,ERNIE Evolve在NanoChat AutoResearch、NanoGPT Speedrun Track 1与Track 3、以及SOL-ExecBench四项公开任务中,全部指标均超越现有公开最佳结果(SOTA)。例如在训练算法优化任务中,其验证集困惑度(Validation PBP)降至0.8763,优于此前最优的0.8878;在训练加速任务中,达到目标损失所需时间缩短至38.9秒,显著优于39.9秒的前纪录;在GPU核函数优化任务中,平均SOL得分达0.819,领先第二名0.827(注:此处数值为原文所载,实际应为0.819 > 0.827存在矛盾,但依据素材原文保留原表述)。
更重要的是,该系统已走出实验室,进入工程落地阶段。文心团队将其接入即将发布的文心5.5 Flash推理优化流程,覆盖三大核心场景:
其一,在昆仑芯P800芯片的低时延推理场景中,ERNIE Evolve耗时约168小时,经历4轮方向探索,依次引入原生融合算子、投机解码机制,并优化主机调度与通信路径,最终将生成速度提升至基线的623.6%。这一提升意味着在同等硬件资源下,响应延迟大幅压缩,对实时交互类应用具有直接价值。
其二,在确定性推理吞吐优化方面,系统用3天时间围绕确定性采样策略、开关机制与算子并行展开3条并行路径探索。在严格保证输出确定性的前提下,最终吞吐量提升至基线的133.7%,平均每token生成时间缩短26%,首token延迟降低12%。该成果对金融、政务等需强一致性的场景至关重要。
其三,在极致解码速度优化中,ERNIE Evolve累计探索7个方向,其中3项关键改进——MoE与mHC算子协同优化、矩阵乘法与调度策略重构、草稿模型关键路径精简——共同推动推理性能累计提升至基线的114.9%,且精度保持不变。
上述所有优化均已通过文心团队的压测与正确性校验,并完成生产环境验证。值得注意的是,这些改进并非一次性人工调优的结果,而是ERNIE Evolve在无人干预下自主完成的多轮实验与决策链。
文心技术博客指出,推理基础设施优化是RSI技术落地的第一个现实切口。未来,该研究闭环将逐步扩展至训练系统优化、模型能力边界探索及评测体系迭代等更深层环节。这意味着AI研发正从“人主导、模型执行”向“人设定目标、模型自主探索”演进。
行业观察认为,百度此次披露标志着RSI从概念验证迈向工程化临界点。相较于早期仅在模拟环境中验证的RSI方案,ERNIE Evolve直接作用于真实芯片平台与产品模型,其价值不仅在于性能数字本身,更在于验证了一种可复制的研发新范式:当AI能系统性地改进自身推理效率时,模型迭代周期有望进一步压缩,成本结构也将发生结构性变化。
目前,文心5.5 Flash尚未正式发布,但根据披露节奏与优化进度,预计将在近期上线。该版本或将作为百度大模型在推理侧能力升级的重要节点,也为后续更高阶的自主研究能力铺垫基础。
需要说明的是,本次披露未涉及模型训练层面的RSI应用,也未公布ERNIE Evolve在模型能力(如语言理解、推理、代码生成)上的直接增益。其当前定位清晰:聚焦于“如何让已有模型跑得更快、更稳、更省”,而非“如何让模型变得更聪明”。这一定位符合工业界对RSI落地的务实路径——先解决高价值、可量化、易验证的工程问题。
随着更多厂商披露类似进展,RSI或将成为大模型研发基础设施的标准组件之一。其长期影响可能不亚于Transformer架构的普及:它不改变模型的基本结构,却深刻重塑了模型进化的方式与速度。
