网通社科技快报
Anthropic优化工具描述五原则助Claude在SWEbench刷新纪录
Anthropic工程团队近期通过系统性优化工具描述与接口规范,助力Claude在SWE-bench端到端软件修复基准中刷新自身纪录。此次提升未涉及模型架构或训练规模变更,核心在于将工具重新定义为“确定性系统与非确定性Agent之间的新型契约”,并建立“原型→评估→协作迭代”三阶段闭环优化机制。
第一阶段快速构建原型:利用Claude Code接入MCP服务器,基于llms.txt等结构化文档生成初步工具封装,并在本地环境测试调用链路,暴露如参数误填、循环追问等实际交互卡点。第二阶段构建真实场景评估体系:设计需连续调用数十次工具的复杂任务流,配备可验证结果(如补丁通过CI测试),采用交错思考模式提升决策透明度,指标涵盖准确率、运行时长、token消耗及报错类型。第三阶段让Agent参与重构:将完整调用转录输入Claude Code,指令其统一修正工具实现与描述一致性;实践中发现LLM能识别人工编写的矛盾描述,例如修正网页搜索工具中自动追加“2025”导致的偏差。
基于实践,Anthropic提炼出五条核心原则:一、选对工具而非堆砌工具,如用search_contacts替代list_contacts以降低token负担;二、工具命名即意图表达,推荐动词+名词结构(如message_contact)并统一命名空间;三、合并高频操作减少调用次数,如submit_code_review封装提交、关联PR与评论三步;四、边界清晰避免功能重叠;五、提供典型失败场景预防说明,如注明“勿在query中附加年份除非用户明确指定”。
该方法论已在内部Slack、Asana等工具集成中验证有效,优化版Claude表现反超人工版本。行业观察指出,当前Agent落地瓶颈多源于工具层粗糙设计,70%的实用性提升空间在工具侧而非模型侧,此思路与微软Copilot Studio、Google Vertex AI Agent Builder的演进方向一致,预示工具定义语言与自动化评估框架将成为新一代AI开发基础设施核心组件。
第一阶段快速构建原型:利用Claude Code接入MCP服务器,基于llms.txt等结构化文档生成初步工具封装,并在本地环境测试调用链路,暴露如参数误填、循环追问等实际交互卡点。第二阶段构建真实场景评估体系:设计需连续调用数十次工具的复杂任务流,配备可验证结果(如补丁通过CI测试),采用交错思考模式提升决策透明度,指标涵盖准确率、运行时长、token消耗及报错类型。第三阶段让Agent参与重构:将完整调用转录输入Claude Code,指令其统一修正工具实现与描述一致性;实践中发现LLM能识别人工编写的矛盾描述,例如修正网页搜索工具中自动追加“2025”导致的偏差。
基于实践,Anthropic提炼出五条核心原则:一、选对工具而非堆砌工具,如用search_contacts替代list_contacts以降低token负担;二、工具命名即意图表达,推荐动词+名词结构(如message_contact)并统一命名空间;三、合并高频操作减少调用次数,如submit_code_review封装提交、关联PR与评论三步;四、边界清晰避免功能重叠;五、提供典型失败场景预防说明,如注明“勿在query中附加年份除非用户明确指定”。
该方法论已在内部Slack、Asana等工具集成中验证有效,优化版Claude表现反超人工版本。行业观察指出,当前Agent落地瓶颈多源于工具层粗糙设计,70%的实用性提升空间在工具侧而非模型侧,此思路与微软Copilot Studio、Google Vertex AI Agent Builder的演进方向一致,预示工具定义语言与自动化评估框架将成为新一代AI开发基础设施核心组件。