SOTA Sync
全部文章
记忆与上下文2026-08-30

记忆为什么会成为 Agent 护城河

模型与执行逐渐商品化后,长期 Agent 的真正差异转向效用驱动的记忆:选择什么值得保留、何时行动,以及何时沉默。

Instinct 给人的特殊感受,并不来自某一次任务做得有多惊艳。单看执行能力,它完成的许多工作并没有明显超出其他 Agent。真正不同的是:使用时间越长,它似乎越了解用户,也越知道接下来该做什么。

Ashwin Gopinath 因此提出一个假说:Instinct 的关键并不是难以复制的 Agent 引擎,而是底层的个人记忆架构。

这不是对产品内部实现的披露。作者明确说明,他没有 Instinct 的内部信息,只是根据长期使用体验反推可能的架构。但这组推测指向了一个更重要的趋势:当模型能力和工具执行逐渐商品化,记忆正在成为 Agent 新的差异化来源。

#从能力、执行走向状态

当前这轮 AI 发展可以粗略分成三波。

第一波是能力。基础模型让机器突然能够用语言理解、推理和生成。

第二波是执行。Devin、Claude Code 一类系统把模型放进循环,让它能够规划、调用工具并完成多步任务。

第三波是状态。Agent 不只需要想和做,还要在真实世界中持续存在:知道过去发生过什么、现在什么最重要、哪些承诺尚未完成,以及下一步是否应该行动。

前两种能力正在快速普及。只要有足够强的模型和合格的工具调用框架,执行 API、遵循指令、生成计划已经不再稀缺。权限控制、Computer Use 和执行可靠性仍然有工程差异,但它们越来越像可以持续优化的工程问题。

长期状态不同。它决定了 Agent 能否跨越几天甚至几周保持方向感,而不是每次被唤醒都重新理解世界。

#长期任务最难的不是执行,而是等待

一次性 Agent 的生命周期很短:接收问题、检索信息、调用几次工具、返回答案,然后结束。

长期 Agent 面对的是另一类问题。比如降低有线电视账单:先打电话,等待接通,听取模糊的挽留方案,等对方回电,几天后再次检查,没有进展再升级处理。

这里最难的部分并不是“打电话”。真正困难的是在大量没有事情发生的时间里维持状态:记住对方承诺了什么、下一次检查是什么时候、什么变化值得打断用户,以及何时应当升级。

如果 Agent 每次都重新读取完整聊天记录,它会越来越慢,也越来越容易受到 Context Rot 影响。把所有历史塞进向量数据库同样没有解决核心问题,因为记录一切不等于拥有记忆。

#记忆不是数据库,而是一种编译

作者把记忆理解为一种编译过程。

数据库关心如何保存过去,记忆关心过去的哪些部分会帮助未来做出更好的决策。两者的目标不同。

真实记忆必然包含遗忘。人不会保存每一个视觉细节和每一句对话,而是丢弃噪声,把经验压缩成少数稳定的事实、偏好、承诺和判断。没有这种抽象,信息越多,思考反而越困难。

因此,记忆必须由效用函数驱动。一个长期 Agent 至少需要两道判断:

  1. 准入效用。 新观察对未来决策是否足够有价值,值得承担保存、索引和维护成本?
  2. 行动效用。 新变化是否值得采取行动?它的价值、风险、可逆性和授权边界分别是什么?

高价值、已授权且可逆的操作可以安静完成,例如更新一个日历占位。涉及付款、发送邮件等后果更大的动作,应先征求确认。如果预期价值很低,正确动作不是发一条提醒,而是什么都不做。

#四层状态,而不是一座历史仓库

按照作者的推测,Instinct 可能在后台持续消化消息、工具调用、票据和生活事件,并反复回答三个问题:

  1. 这里有什么改变了对用户的理解?
  2. 哪个进行中的任务发生了进展?
  3. 什么可以安全丢弃?

答案随后被编译成四层状态:

  • 临时摄入层: 原始对话和票据只保留到语义处理完成,随后丢弃。
  • 选择性语义账本: 只记录被准入的事件与状态变化,并保留来源信息。
  • 信念与偏好图谱: 维护可修改、可版本化的习惯、限制和偏好。
  • 任务承诺暂存区: 追踪尚未完成的子目标、依赖关系和触发条件。

这样的 Agent 不需要反复压缩越来越长的对话,也不必从原始历史里重新寻找方向。它恢复任务时读取的是一份已经整理好的当前状态。

更关键的是可追溯性。每一条偏好或信念都需要知道来自哪次对话、哪个来源和哪一步推断。用户更新偏好或撤销数据源时,系统才能沿依赖关系使旧结论失效,而不是删除一条向量后,仍让旧信息残留在摘要和图关系中。

#真正的主动性来自状态差分

今天大多数 Agent 仍然是响应式的:用户发起请求,它才开始工作。另一些产品用定时器和周期检查模拟主动性,但提醒越多,产品反而越像一款需要管理的通知应用。

真正的主动性不是在 Agent 循环外再加一个 Cron。它需要四个部分共同工作:持久状态、持续事件观察、明确的承诺追踪,以及考虑风险的行动策略。

当一封新邮件到达,Agent 不只是“看到一封邮件”,而是把新事件与已有状态进行比较:它是否推进了某项任务?是否违反了一个约束?是否到了应该升级的节点?这个差分通过效用与风险门后,才会变成行动、延后、询问或沉默。

因此,判断一个 Agent 是否真正理解用户,最有力的证据可能不是它在正确时间发来提醒,而是它知道什么时候不该打扰。沉默不是没有能力,而是完成判断后的选择。

#这套假说可以被验证

作者把自己的判断整理成三个可观察的预测:

  1. 随着用户历史增长,Instinct 的表现应当平稳退化,而不是被越来越长的原始记录拖垮。
  2. 当用户推翻旧偏好,例如改变饮食习惯,旧信息不应继续渗入后续决策,因为来源追踪允许系统真正剪除过时结论。
  3. 系统有时应当刻意不采取行动。如果几个月后它仍然像一款焦虑的应用不断提醒用户,这个假说就是错的。

这三个预测把“感觉很聪明”变成了可以长期观察的产品行为,也让记忆架构不再只是一个营销概念。

#遗忘也可能成为隐私能力

效用驱动的记忆还有一个直接结果:数据最小化。

如果系统能够从原始事件中提取有用状态,再丢弃未经压缩的数据流,真正需要长期保存的是少量可追溯的事实,而不是用户生活的完整录像。更好的记忆架构,反而意味着需要保存的原始生活数据更少。

这让主动遗忘从系统限制变成信任机制。保留一切不仅会制造检索成本和技术债,也会扩大隐私风险。随着长期 Agent 成熟,能否解释“为什么记住、为什么删除、为什么行动”,可能比单纯展示记住了多少更重要。

#记忆将成为下一层基础设施

2023 年,作者与 Noah Shinn 提出的 Reflexion 只是让 Agent 回看错误、形成文字反思,再改进下一次尝试。那时,记忆服务于一个短暂的任务循环。

Instinct 所展现的可能性,是把类似思想扩展到持续变化的个人生活:反思不再发生于单次 Benchmark,而是在真实世界的事件流上连续运行。

企业场景会更复杂。个人 Agent 只需要维护一个人的状态,组织级 Agent 则要跨越成千上万的人和系统,在个人状态与共享状态之间处理权限、来源、冲突和版本。模型仍然负责思考,工具仍然负责行动,但持久价值将越来越集中在另一层:让机器知道世界现在是什么样,以及其中哪些变化值得记住。