网通社科技快报

100行代码实现Agent熔断机制 避免工具报错死循环

AI Agent在调用工具函数失败后陷入无限重试死循环,已成为开发中的高频痛点。问题根源在于系统缺乏对错误状态的感知与干预:当工具返回报错,若外层框架不介入,大模型仅能基于过时上下文“瞎猜”修正参数,持续无效调用。例如文件编辑场景中,若文件被外部修改导致`old_text`不匹配,Agent可能反复调整空格却始终未重新读取内容。

近期开源实践提出轻量级解决方案——“Harness”执行中间件,仅需100行代码即可集成。其核心包含三部分:一是错误分类恢复提示,如`edit_mismatch`失败时自动注入“先read_file再提取准确old_text”的结构化指引;二是调用指纹记账,对相同工具名+参数组合记录连续失败次数;三是批次熔断决策,当同一调用失败达3次或本轮累计失败达6次时,返回`stop=true`强制终止执行,已成功写入操作予以保留。

该机制将单向执行链升级为带反馈闭环的“模型→Harness→工具→结果→Harness→模型”结构,Harness同时承担规则检查、调度协调与异常管理角色。方案低侵入,只需新增`recovery_manager.py`模块并替换主循环调用逻辑,兼容LangChain、LlamaIndex等主流框架。实测显示,配置文件修改平均轮次从10轮降至2轮内,极少卡死。行业已将其扩展至数据库冲突处理、API限流防护等场景,并支持按任务风险动态调整熔断阈值。随着Agent走向生产落地,此类稳定性保障正从加分项变为必选项。