UberEats重构搜索系统,端到端延迟降低50%,核心策略是减少无用功

Uber Eats对搜索流水线进行深度重构,通过调整延迟测量指标、优化检索与特征填充流程、引入微批处理等手段,实现端到端延迟下降50%。工程师强调,此次改进并非依赖单一技术突破,而是基于‘测量-识别-...

互联网/IT 阅读量: 2586

Uber Eats近期完成了一次关键的搜索系统重构,将用户从发起查询到首屏结果完整渲染的端到端延迟降低了50%。这一成果并非来自某项颠覆性技术,而是源于对既有流程的精细化梳理与持续迭代——其核心逻辑可概括为:不做多余的事,不浪费等待的时间。

过去,Uber Eats的搜索性能评估主要依赖后端API响应时间,但团队发现该指标与真实用户体验脱节。于是,他们转向以“首屏渲染完成时间”(Above-the-Fold completion)作为核心度量标准,即从用户点击搜索到屏幕显示餐厅列表及图片的总耗时。这一转变促使工程团队重新审视整个搜索流水线的每个环节。

如图所示, Uber Eats搜索流程包含词法索引、语义索引、候选生成、两阶段排序与最终呈现。在重构中,团队首先识别出大量“高检索、低留存”的无效工作:系统曾为数百个候选商家填充特征数据,但最终仅展示前几十项,其余全部丢弃。据此,团队移除了低价值的检索策略,节省约120毫秒;引入产品级嵌入(product-level embeddings),使数据查询次数减少100倍以上,再降50毫秒;将排序阶段的特征填充与展示数据解耦, 又缩短100毫秒以上。

基础设施层面的优化同样细致:采用面向列的竞价数据结构、减少序列化开销、并行编码、使用更小嵌入向量、优化Go语言中的数据结构以降低垃圾回收压力。此外,移除不必要的服务依赖与请求对冲(request hedging)分别贡献35毫秒与40毫秒的延迟缩减。综合各项措施,首屏渲染延迟整体降低超过200毫秒。

值得注意的是,这些改进建立在Uber现有搜索平台之上——该平台长期使用Apache Lucene构建倒排索引,依托Spark进行批量索引更新,Kafka支撑实时流式变更,并由分布式服务层承接请求。此次重构并未推翻原有架构,而是在其上做“外科手术式”精修。

工程师Anubhooti Nagar将此次优化总结为:“与其把事情做得更快,不如先停止做无用功。”他特别强调了“测量、识别、修复、验证”(Measure, Identify, Fix, Validate)的闭环机制,认为这是可持续性能提升的基础。Pratik Dhanave补充指出,成果源于贯穿技术栈的系列审慎决策,而非某个“宏大创意”。Vidya Pandey则提炼出三大原则:减少工作量、尽早开始处理、移除不必要的依赖。她还提到,公司正探索的微批处理(microbatching)方法,与AI推理中减少阶段间同步等待的技术思路高度一致。

文章配图

目前,Uber已开展多项前瞻性实验:基于产品的检索(product-based retrieval)在早期测试中使p99延迟下降超50%;零遍历排序(Zero Pass Ranking)、HTTP多部分流式传输(multipart streaming)等方案旨在进一步消除阶段阻塞,实现各环节重叠执行。

这一系列动作背后,折射出当前生活服务平台在AI浪潮下的务实取向。

近期财报数据显示,在Uber一周约3.2亿笔订单中,由外部AI Agent(如ChatGPT、Claude等)发起的Uber Eats订单仅约500笔,叫车订单仅4趟。这并非否定AI能力,而是揭示了一个现实:当原生App已能实现“一键叫车50秒、复购外卖90秒”的高效体验时,外部Agent需额外完成需求理解、授权确认、跳转应用等步骤,反而增加摩擦。

如图所示,Uber自身推出的AI助手(如Uber Assistant)正逐步整合进核心路径:用户可通过自然语言添加购物清单、上传手写便签照片,系统自动识别内容并生成订单。这种“原生集成”模式避免了跨应用跳转,也更易与动态变化的库存、优惠、位置信息保持同步。

相比之下,第三方Agent仍处于演示阶段。DoorDash接入类似功能后,累计带来订单亦仅为“几百笔”,与其日均百万级订单规模相去甚远。行业共识逐渐清晰:在高频、强时效的生活服务场景中,速度与确定性优先于自动化幻想。用户愿意为省下30秒反复操作买单,但不愿为“可能省10秒”承担额外确认成本与失败风险。

Uber的搜索优化路径为此提供了另一种思路:不追求“让AI替你做事”,而是先确保“你做的事足够快”。当基础体验已接近物理极限(如50秒叫车),任何新增交互层都必须证明其净收益为正——这正是当前AI落地面临的真实门槛。

文章配图

未来,随着微批处理与零遍历排序等技术落地,Uber Eats搜索或将进一步压缩延迟至百毫秒级。但更关键的挑战在于:如何在保障速度的同时,让AI真正成为用户决策的延伸,而非又一层需要学习的操作界面。

如图所示,Uber Assistant支持从语音输入、图像识别到订单生成的连贯任务流,但最终仍需用户确认。这种“人机协同”模式或许代表了现阶段最可行的演进方向——AI负责感知与组织,人类保留关键决策权。在生活服务领域,信任与控制感,仍是不可妥协的底线。