AI 记忆的未来：针对 Agent 系统的 8 个预测

在一个新领域构建东西的美好之处在于，目前还没有所谓的正确答案。这也意味着，任何构建本质上都是在押注生态系统的未来走向。我们整理了一份（非详尽）清单，列出我们经常与业内人士讨论的问题，以及我们对其答案的预测。我们很乐意听到你的想法、预测，甚至不同意见！

在实验室之外，记忆和知识库公司还有生存空间吗？

预测： 做垂直记忆扩展（即帮助 Agent 运行更长时间）的公司将面临激烈竞争，并会被实验室和其他 Agent 化工具所挤压。而做水平扩展（即跨越团队或整个组织）的公司则会找到更有利的发展空间。这是因为企业级的交易周期更长，且相关问题（数据隔离、安全性、企业本体论）无法通过最新的模型更新或研究想法来解决。

记忆层应该在权重空间还是 Token 空间中运作？

Token 空间有很多优势。它是可解释的，与模型无关，成本低廉。并且我们有数十年的基础设施来应对存储、数据隔离、模块化等问题。
然而，权重空间似乎更具表现力，可能有一类问题我们无法纯粹在 Token 空间中解决。特别是涉及模糊边界和复杂分支路径的程序性记忆，似乎不太适合 Token 空间。（例如，尝试阅读桌游规则 vs 被演示如何玩）
预测： 大多数记忆将在 Token 空间中运作（例如，Agent 轨迹、语义信息等）。但对于某些特定问题（例如，写作风格、品味、程序性技能等），将会有适配器可以嵌入到模型中。机械解释性技术将使我们能够解读它们。

记忆仅仅是一个搜索和检索问题吗？

当今大多数记忆系统都专注于检索。它们专注于在正确的时间为 Agent 找到正确的信息以便其工作（例如，LoCoMo 基准测试侧重于大海捞针式的检索）。
问题是，这是否足以解决记忆问题。换句话说，如果你将最先进的搜索（例如 Google、Exa 或 Perplexity）连接到私有数据存储，这就能算作解决了记忆问题吗？
预测： 越来越多站在前沿的研究人员和开发者之间正在形成一种共识：记忆不仅仅是信息的存储和检索。我们在内部将这个问题称为“影响范围”。信息的效用受限于其作用范围（时间或上下文）。人类可以轻松阅读大量无关文本，并只对最有用的信息赋予适当的权重。而纯粹的检索系统（即使有智能重排序）也无法做到这一点。

我们应该自动将信息注入到上下文中吗？

反对的理由是上下文污染或信息污染。将信息注入 Agent，尤其是如果注入的信息不正确，可能会导致性能下降。它还会导致 Agent 过度关注你各次会话之间的关联，而这些关联可能并非真实存在。这就是为什么许多人关闭了 ChatGPT 或 Claude Code 的记忆功能。
预测： 将信息注入上下文至关重要，因为它能使 Agent 处理“未知的未知”。你可以拥有完美的记忆工具，但如果 Agent 不知道如何使用它，你就没有真正解决问题。对人类来说，这种“注入”时时刻刻都在发生。过去的记忆会不请自来地出现在你的意识中。当前这方面的问题，很可能源于上述的“影响范围”问题。

记忆的正确基准是什么？

普遍认为，现有的基准测试（如 LoCoMo 和 LongMemEval）并不足够。我们在这些基准上已经达到了约 85% 的性能，但记忆问题感觉和一年前一样仍未解决。此外，在基准上取得更好的性能，似乎与用户感知到的“更好”的记忆体验没有关联。
此外，这个领域的基准测试很难构建，因为记忆运作固有的长时间跨度造成了数据可用性以及成本/扩展问题。
预测： 能够解决这个问题的公司或实验室，很可能不是通过在基准测试上爬坡，而是押注于当前基准无法衡量的某种客户/用户洞察。这类似于 Wisprflow 的做法，他们摒弃了其他转录工具所锚定的词错误率指标。

更长的上下文窗口能解决一切问题吗？

强大的模型结合数据集成，让记忆系统变得无用

支持这种观点的理由是，如果你拥有前沿模型 + Agent 工具 + MCP 数据连接器，你就可以检索任何你想要的信息。而且事实证明，其检索质量与其他系统（例如 LLM 维基、混合检索等）相比，并没有太大差别。
预测： 短期内，记忆系统仍然有用，因为它们能降低延迟和成本，而无需让前沿模型时刻搜索所有内容。从中长期来看，记忆系统实现了检索的一致性，从而能够产生复利效应。换句话说，我们仍然让 Agent 编写代码并随时间改进，而不是让它们直接生成一个完整的应用。

对文件系统的 Agent 化搜索就是你所需的一切

Letta 去年预测了这一点，事实证明这非常有先见之明。在短期内，由于后训练阶段专注于提升编码性能，Agent 非常擅长在文件系统上操作。利用这种后训练成果在今天能带来回报。
预测： 长期来看，很难想象不会出现一种除文件系统之外的混合索引。这之所以必要，其主要直觉在于，文件系统在处理大量数据或联邦用例时表现不佳。Agent 对原始数据的“独白”将变得越来越重要，我们需要有原则性和结构化的方式来支持这一点。