七图解析RAG与记忆系统协作一次对话触发5环节精准联动

当用户提问“电脑报E102，开不了机，怎么办？”时，系统将依次触发知识库检索、向量匹配、上下文筛选与模型生成等环节。RAG本质是系统代查资料后喂给LLM，而非模型自主搜索：企业知识库中数万份文档经预处理分段建索引，问题输入后由Embedding模型编码，向量数据库召回语义相似片段，再结合关键词检索（如E102）实现混合查询，最终经重排序与token预算控制，精选3–5段内容拼入Prompt送入LLM生成答案。上下文窗口受限（如4000 token），需动态裁剪——从初筛20–50段到精筛Top-K，参数依业务调优。长期记忆独立于RAG，通常以对话摘要形式存入专用Memory Vector DB，用于跨轮次信息复用；短期上下文则随单次会话消亡。触发检索由确定性路由（关键词判断）或智能路由（轻量分类器）决定，模型始终被动接收上下文。当前趋势包括上下文图谱化、动态压缩与记忆-检索协同，但RAG仍是落地最成熟的增强范式，其价值在于工程可控性与模块解耦设计。