DeepSeek实测KVCache跨版本复用效果，检索强模型首token加速达5.08倍

当大语言模型完成一次迭代更新，工程师常面临一个隐性成本问题：此前为长上下文请求构建的 KV Cache 是否还能继续使用？传统做法是“一刀切”清空缓存，重新执行 prefill 阶段——这意味着系统提示词、RAG 检索结果、高频指令模板等前缀内容，每次模型升级都要重复计算一次。这种策略虽稳妥，却显著推高推理延迟与算力开销。

近期，一篇题为《Can KV Cache Be Reused Across Model Updates? A DeepSeek-V4-Flash Case Study》的研究（arXiv:2611.14051）将这一长期依赖直觉判断的问题带入实证阶段。研究聚焦于当前主流的“同底座滚动更新”模式——即模型架构与参数量不变，仅通过后训练微调提升性能，例如 DeepSeek-V4-Flash 在 2026 年 4 月 24 日发布预览版后，7 月 31 日即推出 Flash-0731 版本；类似节奏也见于 GLM-5.2→5.3、Qwen3-30B-A3B→Instruct-2507 等更新路径。

• Target：新模型从头计算前缀并生成答案（基准）；
• Source：旧模型全程处理（历史表现基准）；
• KV Reuse：旧模型生成缓存，新模型直接复用该缓存续写（被测方案）。

四组真实模型更新在相同输入（共享前缀 + 问题）下进行对比，评估指标包括答案准确率（NIAH 检索任务与四个长上下文 QA 基准）、首 token 延迟（TTFT）及有害翻转率（HFR，即原正确答案因复用缓存而变错的比例）。

实验结果呈现显著分化。以 GLM-5.2→5.3 和 DeepSeek-V4.1-Flash→Flash-1017 为例，KV Reuse 曲线几乎与 Target 重合，表明缓存复用对模型行为影响极小。尤其在 32K token 长前缀场景下，DeepSeek-V4-Flash→Flash-0731 的首 token 延迟降低达 5.08 倍，平均加速比为 2.10–5.08×，且答案质量未明显劣化。

反观 Qwen3-30B-A3B→Instruct-2507，复用缓存后答案准确率从 55% 断崖式跌至 13%，即便在短前缀（512 token）下也难以维持稳定表现。这揭示出一个关键规律：模型的检索能力越强，KV Cache 跨版本复用的鲁棒性越高。DeepSeek 与 GLM 系列在 RAG 与长文档理解任务中表现突出，其内部表征对前缀语义的抽象更稳定；而 Qwen3 在此轮更新中可能调整了注意力机制或解码策略，导致旧缓存与新权重不兼容。

更值得警惕的是“净值掩盖破坏”的现象。例如 DeepSeek-V4-Flash 在 32K 前缀下，复用后总准确率从 25.52% 提升至 31.25%，看似正向收益，但深入分析发现：原有正确答案中有 13 个因缓存复用而错误（harmful flip），同时修复了 24 个原本错误的答案。净增 5.73% 的背后，是近半数样本行为发生偏移。

研究进一步引入“Ridge Mapper”作为基线对照——即对旧缓存做轻量线性映射后再输入新模型。结果显示，该方法在 Qwen 场景下略有改善，但对 DeepSeek 与 GLM 几乎无增益，反而增加推理开销。这说明：对于表征稳定的模型，不做任何转换的原始复用已是最优解；强行映射反而画蛇添足。

在任务质量维度，研究还测试了 BABI Long、HotpotQA、2WikiMQA、MultiFieldQA-en 四个长上下文 QA 数据集。KV Reuse 方案在多数任务上与 Target 表现相当，部分任务甚至略优。例如在 HotpotQA 上，DeepSeek-V4-Flash 复用缓存后主得分达 61.7%，高于原生 Target 的 61.0%；而在 MultiFieldQA-en 中，复用方案得分 45.9%，略低于 Target 的 46.2%，差异微小。

值得注意的是，预缓存（prepared-cache）策略在实际部署中具备明确工程价值。以 2WikiMQA 为例，KV Reuse 实现 2.10× TTFT 加速；HotpotQA 达 5.08×；MultiFieldQA-en 为 2.51×。这意味着，在高并发长上下文服务中，若能确认模型更新属“低扰动”类型（如 DeepSeek-V4 系列），可直接保留历史缓存，显著降低首 token 延迟——这对实时性要求高的对话系统、RAG 应用尤为关键。

该研究的价值不仅在于提供一组实测数据，更在于将“缓存是否清空”这一运维决策，从经验主义转向可量化评估。未来推理框架（如 SGLang、vLLM）有望集成缓存兼容性检测模块：基于模型家族与更新日志，自动判断 KV Reuse 的可行性，并在高风险更新时触发缓存重建预警。

目前，DeepSeek-V4-Flash 系列已开放 Hugging Face 下载（deepseek-ai/deepseek-v4-flash-base），其更新日志亦明确标注版本演进路径。对于依赖长上下文推理的服务商而言，此次实证为资源调度优化提供了可靠依据：不必再为每次模型迭代支付全额 prefill 成本，只需识别模型特性，即可在稳定性与效率间做出精准权衡。