Elasticsearch引入NVIDIAGPU加速向量索引,10分钟处理1.38亿向量
Elasticsearch 集成 NVIDIA cuVS 技术,实现 GPU 加速的向量索引。测试显示,在配备 8 块 RTX Pro 6000 GPU 的服务器上,1.38 亿个向量的索引时间从约 ...
现代企业应用正面临海量非结构化数据的挑战,这些数据为语义搜索、基于大型语言模型(LLM)的检索增强生成(RAG)以及推荐系统提供了基础。然而,传统基于 CPU 的向量索引在处理 TB 级到 PB 级数据时效率低下,构建时间可能长达数天甚至数周,这不仅拖慢了实验节奏,也增加了运维成本。
为解决这一问题,Elasticsearch 近日宣布引入 NVIDIA cuVS 提供支持的 GPU 加速向量索引功能。通过将分层可导航小世界(HNSW)索引构建任务卸载到 GPU,Elasticsearch 实现了显著的性能提升。一项基准测试显示,在一台配备 8 块 NVIDIA RTX Pro 6000 GPU 和双路 AMD EPYC 9555 处理器的服务器上,1.38 亿个 1,024 维向量的索引时间从使用 CPU 时的约 1 小时大幅缩短至不到 10 分钟,吞吐量提升了 7 倍。
这项技术突破的关键在于,GPU 加速索引不仅大幅提升了构建速度,还改善了并发查询性能。当索引构建与搜索同时进行时,CPU 上的搜索延迟降低了 6 倍,这是因为 GPU 承担了繁重的索引任务,释放了 CPU 资源用于查询处理。此外,GPU 加速还显著缩短了强制合并的时间,从大约 4 小时降至约 5 分钟,从而更快地恢复低延迟搜索。
值得注意的是,GPU 构建的索引在搜索质量上与 CPU 版本保持一致。测试数据显示,两种方式构建的索引在召回率与吞吐量权衡曲线上完全重叠,表明 GPU 加速不会牺牲搜索精度或性能。
这一技术进步对需要频繁更新索引的企业尤为重要。例如,在电子商务领域,产品目录的实时更新和嵌入模型的定期训练都需要快速重建索引。通过采用 GPU 加速,企业可以显著提高数据处理效率,降低运维成本,同时确保搜索服务的高性能和稳定性。
Elasticsearch 的这一创新标志着向量搜索技术迈入新阶段,特别是在处理大规模数据集时,GPU 加速方案提供了前所未有的性能优势。随着更多企业转向 AI 驱动的数据分析和智能应用,这项技术有望成为行业标准,推动下一代智能搜索解决方案的发展。
