网通社科技快报
九条ESQL查询精准定位FoundryAgent词元消耗路径
Microsoft Foundry平台上的AI Agent日益普及,但其词元消耗长期缺乏透明度。Elastic工程师Greg Crist提出一套基于九条ES|QL查询与Kibana仪表板的解决方案,将容器内追踪数据接入Elastic,实现对Agent词元消耗路径的系统性拆解。该方案依赖用户在自定义容器中注入OpenTelemetry SDK,捕获LLM调用与工具调用事件,并通过OTLP协议发送至Elastic的traces-generic.otel-default数据流,仅需设置两个环境变量即可完成接入。
九条核心查询支撑仪表板多维分析:按模型划分的词元趋势显示gpt-4o-mini与gpt-4占主导;成本统计中gpt-4o达5.97美元、gpt-4-1为8.99美元;工具调用延迟分析发现第95百分位达10秒的工具使Agent整体延迟升至13.1秒;79次失败中rate_limit_exceeded占37次、TimeoutError占21次,明确主要瓶颈。典型查询如按gen_ai_operation_name聚合识别新工具首次调用,或按attributes.user.id分组归因成本来源。
该方案与微软Agent 365形成互补:后者聚焦治理与安全审计,前者专注原始追踪的高性能分析。实测处理605次Agent运行产生的3000余个追踪片段,验证了聚合分析对规模化运维的关键价值。当前局限在于依赖主动插桩,且未纳入Foundry服务端workflow trace;未来随AI语义约定完善有望进一步自动化。此方案为Foundry及其他LangChain/LlamaIndex构建的Agent提供可复用的可观测性范式,是控制AI成本与提升稳定性的实用路径。
九条核心查询支撑仪表板多维分析:按模型划分的词元趋势显示gpt-4o-mini与gpt-4占主导;成本统计中gpt-4o达5.97美元、gpt-4-1为8.99美元;工具调用延迟分析发现第95百分位达10秒的工具使Agent整体延迟升至13.1秒;79次失败中rate_limit_exceeded占37次、TimeoutError占21次,明确主要瓶颈。典型查询如按gen_ai_operation_name聚合识别新工具首次调用,或按attributes.user.id分组归因成本来源。
该方案与微软Agent 365形成互补:后者聚焦治理与安全审计,前者专注原始追踪的高性能分析。实测处理605次Agent运行产生的3000余个追踪片段,验证了聚合分析对规模化运维的关键价值。当前局限在于依赖主动插桩,且未纳入Foundry服务端workflow trace;未来随AI语义约定完善有望进一步自动化。此方案为Foundry及其他LangChain/LlamaIndex构建的Agent提供可复用的可观测性范式,是控制AI成本与提升稳定性的实用路径。