ReAct架构如何实现边想边做,苹果CMU新框架将其推理效率提升90%

ReAct 是当前智能体(Agent)实现“思考-行动-观察”闭环的核心架构,但其自由形式推理带来显著延迟。苹果与卡内基梅隆大学提出 SSR 框架,将推理改为从预定义选项中选择,使多模态搜索任务每轮推...

人工智能

智能体(Agent)要真正“办事”,不能只靠模型一次性输出答案——它必须能边想边做,通过工具调用与环境交互,逐步收敛到正确结果。这一能力的底层支撑,正是 ReAct 架构。近期多项研究围绕 ReAct 展开优化与反思:苹果与卡内基梅隆大学提出 SSR 框架,将推理环节从生成式改为选择式,推理速度提升超90%;微软则发现长记忆可能使 Agent 困于“思维盆地”,并给出清空记忆的应对策略。这些进展共同指向一个关键命题:如何让 Agent 的推理既可靠又高效。

ReAct 的核心逻辑可概括为三步循环:想(Reasoning)→ 做(Acting)→ 看(Observation)。用户请求进入后,模型仅负责“决定下一步”,不执行计算、不接触外部状态;Harness 层组装上下文、校验并调度工具调用;Environment 层真实执行操作并返回结果。该过程形成闭环:每一轮的“看”成为下一轮“想”的输入,直至模型输出无工具调用的最终答案。

以“计算多币种收入平均值”为例,一个看似简单的任务实际需3轮迭代、4次工具调用:第一轮模型判断需先统一货币单位,发起3个并行汇率查询;第二轮收到结果后,交由代码解释器执行加总与均值计算;第三轮确认无工具调用,直接返回答案。整个轨迹清晰可追溯,错误可定位——这正是 ReAct 区别于“一次性答题”的本质:它把任务拆解为可验证的原子步骤,确保每一步都基于真实反馈。

然而,这种“边想边做”模式在实际部署中面临效率瓶颈。典型 ReAct Agent 每轮动作前需生成一段自由形式推理(free-form thinking),即模型逐 token 输出自然语言推理链,如“这张图像似博物馆,需先识别建筑再查展览信息”。对端侧小模型(如 2B–4B 参数量级),这类推理常冗长低效,且大量内容对决策无实质贡献。

苹果与卡内基梅隆大学的研究团队据此提出 SSR(Selection-based Structured Reasoning) 框架,将推理环节重构为“选择题”模式:预定义6类高频推理模板(如“不确定实体时以图搜图”“需具体事实时文本搜索”“证据充足时直接作答”等),每轮由模型从中选择最适配的一项作为推理依据,再生成具体动作(如搜索 query 或裁剪坐标)。该设计将“为什么这么做”(rationale)与“具体怎么做”(action)解耦,大幅压缩推理开销。

实验显示,在7个多模态搜索基准测试中,SSR 将每轮推理延迟降低超过90%,平均思考时间从约1秒降至0.1秒以内,而任务成功率与传统 free-form 方法相当。关键创新在于:模型无需额外分类头,而是通过自身对各选项的 token-level 打分完成选择,兼容现有 LLM 架构。

多币种收入汇总的三轮轨迹示例

值得注意的是,SSR 并非否定 ReAct,而是对其推理环节的精细化改造。ReAct 的“想-做-看”骨架依然保留,只是“想”的方式从开放生成变为受限选择。这种思路契合了实际场景中的规律:尽管任务千变万化,决定动作的高层逻辑却高度复用——例如“实体已知但目标缺失”这一模式,可通用于“会议举办地”“公司成立年份”等不同问题。

与此同时,微软研究院另一项研究揭示了 ReAct 类 Agent 的潜在隐忧:长记忆可能成为创新的枷锁。在自动研究型 Agent 实验中,同一模型在相同任务上独立运行8次,最终性能差异极大(68.3–100.0分),且追加算力无法弥补差距。分析发现,每次运行均陷入不同的“思维盆地”(idea basin)——即方案空间中的局部最优区域,一旦锚定便难以跳出。

自由推理 vs 选择式结构化推理对比

研究者指出,聊天记录如同“手机里的参考图”,持续强化初始假设,抑制新思路涌现。即使 Agent 具备自动摘要压缩机制,仍难逃盆地束缚。为此,微软提出 Fork-and-Flush 策略:定期将 Agent 分叉为多个并行分支,各分支继承完整工作区(代码、文件、实验结果),但清空聊天记录重新出发;运行固定时间后择优保留,其余终止。该方法在13个长周期任务上显著提升平均性能(归一化得分从0.47升至0.78)。

综合来看,ReAct 架构正经历从“可用”到“高效可靠”的演进。SSR 通过结构化推理压缩延迟,适用于资源受限的端侧或高并发场景;Fork-and-Flush 则针对长周期任务中的认知固化问题,保障探索多样性。二者共同表明:Agent 的智能化不仅依赖模型能力,更取决于推理机制的设计哲学——是允许其自由发散,还是引导其精准选择;是积累记忆以求稳定,还是定期清零以促突破。

目前,ReAct 已成为主流 Agent 框架的基础范式,而 SSR 与 Fork-and-Flush 等改进方案正在被集成至开源 Agent 库(如 LangChain、LlamaIndex)及工业级系统中。随着多模态工具调用、异步并行执行等能力的成熟,下一代 Agent 将更接近“可靠助手”而非“猜测机器”的定位。