Agent记忆静默丢失问题获新解，CLM框架让模型自己管理上下文笔记本

当一个AI Agent在第80轮对话中自信地给出一个根本不存在的端口号时，它并非犯错，而是“失忆”了——而且失得悄无声息。这种静默丢失现象，正成为长周期任务中Agent可靠性的核心瓶颈。

问题根源在于当前主流Agent框架（如Claude Code、Codex、Pi）对记忆的处理方式：它们将上下文视为一块只能追加、无法擦除的黑板。每轮推理、工具调用或用户输入都新增一行记录；当上下文接近窗口容量（通常为75%阈值）时，系统自动触发摘要机制，将早期内容压缩为一段浓缩文本，仅保留最近几轮原始内容。这一过程由外部框架按预设规则执行，模型本身无权干预。

以修改配置文件为例：Agent在第40轮读取到端口号12345，随后进行多项文件修改；至第80轮需恢复原配置时，摘要已将第40轮那行关键信息彻底抹去。模型面对一份结构完整但缺失关键数据的上下文，既不报错，也不质疑，而是自行编造一个看似合理的端口号继续执行——它甚至意识不到自己已遗忘。

更隐蔽的是“摘要的摘要”效应：多次压缩后，信息层层衰减，最终留存的上下文读起来逻辑通顺，实则核心事实早已空洞化。这并非模型能力不足，而是其记忆机制被外部规则所绑定，缺乏对信息价值的动态判断能力。

针对此问题，Meta Superintelligence Labs联合华盛顿大学、MIT及Trillium Labs于9月29日发布论文《Context Language Models》（arXiv），提出一种根本性改进方案：将上下文从“黑板”重构为“笔记本”。

CLM的核心改动极为简洁：不再由框架统一管理上下文，而是让模型持有文件路径，通过标准命令行工具（如grep、sed、echo）直接读写该文件。这意味着——

第一，权限转移：从“外部管家擦除”变为“模型自主编辑”；

第二，时机可控：模型可在任何推理步骤中主动压缩、划改或补充内容；

第三，判断主体变更：关键决策由当事人（即模型自身）在具体任务上下文中作出，而非依赖静态规则。

例如，在第80轮需回溯端口号时，模型清楚知道目标是恢复配置，因此会主动保留或复现第40轮读取的信息，避免静默丢失。上下文不再是被动累积的记录，而是一个可实时更新的工作区。

值得注意的是，该方案无需额外训练。现有大模型（如Qwen3.5-9B）仅需接入CLM接口即可运行。实验显示，在BrowseComp-Plus深度检索基准上，CLM使准确率提升11.4%，结合在线强化学习（RL）后进一步提升47.6%，同时FLOPs降低12%。

更令人意外的是模型展现出的自发组织能力。论文记录了三项未在提示词中指定的行为：

• 自主创建名为notes的内部角色用于记账；
• 编写辅助函数反复压缩旧搜索结果，调用超数十次；
• 在多Agent实验中动态维护一张含21个子Agent的实时记分板，并原地更新百余次。

这些行为属于“零样本涌现”——并非模型被教导如何记忆，而是当它获得可操作的上下文空间后，自行探索出高效的信息管理策略。

此外，CLM还改善了强化学习中的信用分配问题。传统LM中，模型对上下文的隐式遗忘难以追溯；而在CLM中，每一次编辑（如删除某条记录、添加注释）均为显式、可读的操作，使得奖励信号能精准归因到具体决策节点。

对比其他长序列建模思路，CLM路径独特。华为诺亚方舟实验室曾提出基于分数阶微分方程的“重尾记忆”模型，试图让信息衰减更缓慢；但该方法面临非马尔可夫性带来的计算复杂度挑战。而CLM绕开了数学建模难题，转而从工程交互层面重构记忆机制，实现“低门槛高收益”。

当前Agent开发中，记忆管理常被视为次要模块，多数团队依赖框架默认策略。但随着任务周期延长、多步骤协同增多，静默丢失问题日益凸显。CLM提供了一种轻量级、即插即用的解决方案：它不要求修改模型架构，不增加训练成本，却从根本上赋予模型对自身记忆的主权。

行业观察指出，该思路可能推动Agent系统向“可解释工作流”演进——当模型的上下文编辑行为可被审计与回溯时，调试与验证将大幅简化。未来，类似CLM的“工具化记忆”设计或将成为高可靠性Agent的标准组件。

目前，CLM代码已开源至facebookresearch/context-language-models仓库，支持主流开源模型快速集成。其有效性已在代码生成、网页浏览与多Agent协作等场景验证，为解决长周期任务中的信息衰减问题提供了新范式。