BM25与向量混合检索实测，能补回RAG漏召吗？5组查询揭示真实效果

在构建基于检索增强生成（RAG）的问答系统时，一个常被讨论的问题是：当纯向量检索因语义降维而漏掉关键文档时，能否通过引入传统关键词检索（如BM25）进行互补？近期一项轻量级实证研究给出了具体答案——能补回一部分，但远非万能。

该实验由开发者在本地单文件HTML环境中完成，不依赖网络或第三方库，共使用30篇技术文档构成语料库，涵盖数据库优化、微服务通信、深度学习框架等5类主题查询。每组查询人工标注2–3篇相关文档，以Top-5召回率（Recall@5）为评估指标，并采用RRF（Reciprocal Rank Fusion）算法对BM25与SVD向量检索结果进行融合排序。

实验首先验证了向量检索的典型缺陷：在「微服务通信和接口调用」这一查询下，纯向量模型将D16、D14、D08等非相关文档排进Top-5，而人工标注的相关文档D11与D12均未进入前五，召回率为0.00。究其原因，向量模型将“接口调用”“通信协议”等实词映射至低维空间后，其精确匹配能力被稀释，相似度分数被表面语义相近但内容无关的文档拉高。

加入BM2]+)/BM25路径后，融合结果将D12纳入Top-5，召回提升至0.50，但D11仍未能召回——后者在向量排序中位列第14，在BM25中仅排第7，两路均未进入前5，RRF亦无力挽救。这说明：混合检索只能补回“某一路排高位、另一路排中低位”的文档，对两路均靠后的文档无能为力。

类似情况出现在「分布式协调和一致性协议」组：BM25单独召回D13与D01（Recall=1.00），向量检索全漏（0.00），融合后仅保留D01，Recall降至0.50。反向案例则有「深度学习和神经网络框架」：向量检索命中D08与D09（Recall=0.67），BM25仅命中D09（0.33），融合后因RRF权重分配问题，D08被挤出Top-5，最终Recall反降至0.33。

综合5组测试，混合策略仅在2组中取得最优效果（「数据库索引和查询优化」「微服务通信」），向量检索在2组占优（「深度学习」「前端构建」），BM25在1组领先（「分布式协调」）。值得注意的是，所有Recall值均为0.00、0.33、0.50、1.00等离散值，源于每组仅2–3篇标注文档且Top-K=5，粒度粗糙，进一步限制了结论普适性。

实验还披露了实现过程中的关键细节与踩坑经验。例如，初始版本中空查询会返回全部30篇文档，导致断言校验失败；SVD分解因使用Math.random()初始化导致结果不可复现；早期RRF仅融合Top-5候选，严重限制了BM25长尾文档的参与机会——修正后扩展至Top-60，才使D12得以被捞回。

技术层面，本次实验采用的三路检索器各具特性：

BM25：基于单字+双字切分（未引入分词库），参数k1=1.2、b=0.75，依赖IDF加权，对精确术语召回稳定；
向量检索（SVD）：对TF-IDF矩阵降维至8维，经100轮幂迭代求解，擅长捕捉同义替换与语义泛化，但易牺牲实词精度；
RRF融合：公式为∑(1/(rank_i + k))，k=60用于平滑高位排名优势，本质是排名倒数加权，非分数加权。

该实验的价值在于将抽象争论转化为可复现的量化观察。它并不否定混合检索的价值，而是明确其边界：当语料中存在强术语依赖、且相关文档在某一路径中排名足够靠前时，融合可有效提升召回；但若关键文档在两路中均处于中下游，则混合亦难奏效。

这也解释了为何工业界RAG系统普遍采用多路召回+重排序（rerank）架构：BM25负责兜底实词匹配，向量检索覆盖语义泛化，而最终精排阶段（如用Cross-Encoder）可进一步校正排名偏差。单纯依赖RRF等简单融合，难以替代更复杂的后处理机制。

值得补充的是，当前主流向量模型（如text-embedding-ada-002、bge-m3）已内置关键词感知能力，部分缓解了传统SVD的实词丢失问题；而像Elasticsearch 8.x集成的text_expansion或dense_vector多字段检索，也提供了更灵活的混合策略。但无论技术如何演进，检索效果始终高度依赖语料特性、查询措辞与参数配置——这正是该实验反复强调的核心：没有放之四海而皆准的“最佳方案”，只有针对具体场景的“更优选择”。

实验代码已开源，用户可下载单文件index.html本地运行，自行更换语料与参数验证结论。这种“实验室即产品”的轻量设计，为RAG开发者提供了一个低成本验证检索策略的实用工具。