是什么
语言模型一次只能看到有限长度的一段文本,这段范围通常叫上下文窗口(context window)。智能体记忆(agent memory)指的是智能体系统里负责把信息存到当前上下文窗口之外、以便之后重新调取的那一部分[1]。模型本身只看得到眼前这一屏内容,窗口之外的东西由记忆系统来处理。
怎么工作:借用操作系统的分层存储
Packer 等人于 2023 年 10 月发表的 MemGPT 提出了「虚拟上下文管理」(virtual context management),思路借自操作系统的分层记忆体系[1]。操作系统让程序以为自己拥有比物理上更大的内存,靠的是在快慢不同的存储之间搬运数据;MemGPT 把这套办法用到上下文窗口上,通过数据在快慢记忆之间的移动,制造出记忆资源很大的表象[1]。它管理不同的记忆层级,使得在模型有限的上下文窗口之内,仍然能用上被扩展到窗口之外的内容[1]。系统与用户之间的控制流则用中断(interrupt)来管理[1]。
举一个具体的小例子:智能体在处理一份很长的文档时,可以把前面章节的简短摘要留在窗口里,全文放在窗口之外;当某个问题需要用到开头某处的细节时,系统再把这部分内容搬回窗口。窗口里始终只放当下要用的东西,但对使用者来说,好像整份文档都在手边。
从哪来
这条工作把有限的上下文窗口明确当成核心约束:任何智能体记忆的设计,都得绕着这个约束做文章[1]。虚拟内存之所以合适,是因为它面对的正是同一类困难——快的存储小,慢的存储大,靠调度把两者的差距藏起来。
测了什么
作者在两件事上检验了这套设计。一是文档分析:让 MemGPT 处理远远超出底层模型上下文窗口的大文档[1]。二是多会话聊天:用它构建对话智能体,这些智能体能在与用户的长期互动中记住信息、进行反思并随之演化[1]。
意义与边界
对智能体来说,能不能在窗口之外保留信息,是它从一次性问答走向跨会话持续工作的分界之一。代价是:哪些内容留下、怎么概括、什么时候搬进搬出,都需要系统自己决定,分层记忆也让系统比直接调用模型更复杂。不变的起点是那个约束本身——有限的上下文窗口塑造了整个设计[1]。
注释与来源
- MemGPT: Towards LLMs as Operating Systemshttps://arxiv.org/abs/2310.08560
引用本页: 智能体记忆(Agent memory). TellWorld, https://www.tellworld.net/zh/learn/agent-memory. 更新于 2026-11-07