手搓Agent系列解析,RAG如何实现“先查资料再回答”的核心能力

《手搓Agent》系列第五篇聚焦RAG(检索增强生成)技术,揭示其本质是通过嵌入模型将问题与知识库中的片段按语义相似度匹配,而非依赖关键词。文章以自建笔记系统为例,拆解了切块、检索、排序三步流程,并强...

人工智能 阅读量: 27.84万

在构建具备长期记忆与知识调用能力的AI Agent过程中,一个关键瓶颈逐渐显现:当知识库规模扩大至数百篇笔记时,模型无法通读全部内容,而仅靠上下文窗口又极易遗漏关键信息。此时,如何让Agent在回答前主动‘翻书查证’,成为提升准确率的核心环节。《手搓Agent》系列第五篇正是围绕这一问题展开,系统性地拆解了RAG(Retrieval-Augmented Generation,检索增强生成)的技术实现逻辑。

文章配图

RAG并非高不可攀的黑盒系统,其核心思想简洁明确:先检索相关资料,再将结果注入提示词上下文,由大语言模型基于这些资料生成答案。真正需要突破的环节在于‘如何判断相关’——这一步决定了整个流程的成败。

传统关键词匹配在此场景下迅速失效。例如,用户提问‘它为什么会忘记前面说过的话?’,而知识库中记录的是‘对话太长,最早的消息会被挤出窗口,模型就看不到了’。两句话语义一致,却无任何词汇重合。人脑可轻松理解‘忘记’对应‘看不到’,‘前面说过的话’对应‘最早的消息’,但字面匹配算法对此束手无策。问题的本质在于:我们需要比对‘意思’,而非‘字形’。

解决路径指向嵌入模型(embedding model)。这类专用模型不负责生成答案,而是将任意文本段落映射为固定长度的数值向量(如512维)。其训练目标被设定为:语义相近的文本,其向量在空间中距离更近;语义无关者则相距甚远。可将其想象为一张高维语义地图,每段文字是一个坐标点,同类主题自然聚集成簇。

当用户提出问题时,同样将其编码为向量,再计算其与知识库中各段向量的余弦相似度——该值越高,表示语义越接近。由此,‘找相关资料’转化为一道可计算的几何问题。值得注意的是,嵌入模型与用于生成答案的大语言模型是两个独立组件:前者轻量、可在普通CPU运行(如开源的bge-small-zh-v1.5,仅90MB),后者则承担最终推理任务。

整个RAG流程分为两条并行流水线:建库与查询。建库阶段需提前完成——将原始笔记切分为合理粒度的语义块(而非整篇处理),对每一块计算向量并存入向量数据库;查询阶段则在每次提问时实时执行:问题向量化 → 与库中所有块比对相似度 → 取Top-K最相关块 → 拼接进上下文 → 大模型生成答案。

为何必须切块?原因有二:一是单篇笔记常涵盖多个主题,整体向量化会稀释关键信息;二是上下文容量有限,短片段更易塞入且保留精准性。例如一篇关于‘上下文管理’的笔记可能同时包含‘窗口溢出’‘前缀缓存’‘压缩摘要’等子主题,切块后可分别索引,避免信息混杂。

实际落地中,RAG的可靠性取决于三个关键关卡:切(chunking)、找(retrieval)、排(ranking)。切得不合理会导致信息割裂或冗余;找不准则直接引入噪声;排不好可能让次要信息优先于核心答案。作者在文中指出,常见失败案例往往源于‘切’的粒度失当——过粗则丢失细节,过细则破坏语义连贯性。

语义检索示意图:问题向量与知识库中多个语义点的距离关系

更具实践价值的是,RAG不应仅作为后端模块,而应被封装为Agent可自主调用的工具。这意味着Agent需具备元认知能力:判断当前问题是否需要外部知识支持;决定检索范围(如限定某类笔记);甚至在首次检索结果不佳时发起二次查询。这种‘决策-执行-验证’闭环,使Agent从被动响应转向主动求证。

以作者自建的‘小记’系统为例,v0.5版本升级即引入RAG机制:当用户提问涉及历史对话逻辑时,Agent自动触发检索,从数百篇笔记中定位‘窗口溢出’‘消息截断’等相关段落,并将其作为上下文补充输入。模型不再凭空编造,而是依据确切依据作答。这一改进显著降低了幻觉率,尤其在处理跨会话一致性问题时效果突出。

从工程角度看,RAG降低了对超大上下文窗口的依赖,使中小算力设备也能支撑知识密集型任务。开源嵌入模型的成熟(如BAAI的bge系列、OpenAI的text-embedding-ada-002等)进一步降低了接入门槛。目前主流框架如LangChain、LlamaIndex均提供标准化RAG组件,但理解其底层原理仍至关重要——否则容易陷入‘调包即成功’的误区,忽视切块策略、向量维度、相似度阈值等关键调参点。

RAG完整工作流图:从笔记切块、向量化、相似度比对到答案生成

行业层面,RAG已成为企业级AI应用的标配架构。在客服、法律咨询、金融研报等需强事实依据的场景中,纯生成式模型因幻觉风险难以落地,而结合RAG的系统可确保输出内容有据可查。据2024年Gartner报告,超过65%的新部署知识问答系统已采用RAG增强方案,较两年前提升近40个百分点。

值得警惕的是,RAG并非万能解药。其效果高度依赖知识库质量:若原始笔记存在事实错误或表述模糊,检索结果同样会误导模型;此外,对于需要深度推理、多跳关联的问题,单一检索步骤仍显不足,需结合图谱、规划等更复杂机制。

回到‘手搓’本意,该系列的价值在于剥离框架封装,回归技术本质。RAG的精髓不在工具链有多庞大,而在‘语义匹配’这一核心判断能否被准确建模。当开发者理解向量空间如何表征意义、相似度如何量化关联,便能因地制宜设计适配自身数据特性的检索策略——这才是构建可靠Agent的真正起点。

后续章节将探讨如何让Agent自主选择工具、组合多个检索结果,乃至构建多层级知识网络。RAG只是‘眼睛’,而真正的智能,还需‘大脑’的决策与‘手脚’的执行协同完成。