摘要

大语言模型（LLMs）近年来已被广泛应用于对话智能体中。然而，用户与智能体之间不断延长的交互会累积大量对话记录，使得上下文窗口有限的 LLMs 难以维持连贯的长期对话记忆，也难以生成个性化回复。尽管检索增强记忆系统已被提出以缓解这一问题，现有方法通常依赖单一粒度的记忆划分与检索。这种方式难以捕捉深层次的记忆关联，往往只能检索到部分有用信息，或引入大量噪声，从而导致性能不佳。为解决这些局限，本文提出了 MemGAS，一个通过构建多粒度关联、自适应选择与检索来增强记忆整合能力的框架。MemGAS 基于多粒度记忆单元，并采用高斯混合模型（Gaussian Mixture Models）将新记忆与历史记忆进行聚类与关联。基于熵的路由器通过评估查询相关性分布，自适应地选择最优粒度，在信息完整性与噪声之间取得平衡。检索到的记忆还会通过基于 LLM 的过滤进一步精炼。四个长期记忆基准上的实验表明，MemGAS 在问答任务和检索任务上均优于当前最先进方法，并在不同查询类型和不同 top-K 设置下取得了更优表现1。

引言

近年来，大语言模型（LLMs）已被广泛应用于对话代理中。然而，随着用户与代理之间的交互不断延长，所积累的大量对话记录使得上下文窗口受限的LLMs难以维持连贯的长期对话记忆，也难以提供个性化的响应。尽管基于检索增强的记忆系统已被提出以缓解这一问题，但现有方法通常依赖于单一粒度的记忆划分与检索。这种方式难以捕捉深层次的记忆关联，往往导致有用信息的部分缺失或引入大量噪声，从而影响整体性能。

为了解决上述局限，本文提出了 MemGAS 框架，通过构建多粒度关联、自适应选择与检索机制来增强记忆整合能力。MemGAS 基于多粒度记忆单元，利用 高斯混合模型（Gaussian Mixture Models） 对新记忆进行聚类，并将其与历史记忆建立关联。同时，引入基于熵的路由机制（entropy-based router），通过评估查询相关性分布，自适应选择最优粒度，在信息完整性与噪声之间取得平衡。检索到的记忆还会通过基于LLM的过滤进一步优化。

在四个长期记忆基准数据集上的实验结果表明，MemGAS 在问答任务和检索任务中均优于当前最先进方法，在不同查询类型和不同 top-K 设置下都表现出更优的性能。

近期关于LLM智能体外部记忆系统的研究，主要依赖于检索增强生成（Retrieval-Augmented Generation, RAG）范式，并从记忆划分与构建等多个方面探索如何实现高效检索。在记忆划分方面，现有方法主要采用单一粒度（single-granularity）对对话进行分割。一类方法使用会话级片段（session-level chunks）作为检索单元，而另一类方法则采用更细粒度的轮次级划分以捕捉更丰富的细节信息。近期的进展引入了基于主题感知（topic-aware）的划分技术，通过语义一致性对对话进行分组，从而提升围绕主题的一致性检索能力。

此外，一些研究通过生成记忆摘要，将关键信息压缩为紧凑表示，以提高检索效率。在记忆构建方面，研究者探索了多种结构化组织范式，以增强长期知识的保留能力。例如，RAPTOR（Sarthi et al., 2024）和 MemTree（Rezazadeh et al., 2024）采用树结构来编码记忆单元之间的多尺度关系。一些工作提出了层级化记忆架构（hierarchical memory architectures），构建具备深层抽象能力的复杂系统，从而支持高效的自顶向下检索。还有研究采用基于图的记忆架构，以模拟神经记忆巩固过程，并显式建模实体之间的关系结构。

然而，尽管现有方法取得了一定进展，但仍然存在两个关键局限：

（i）多粒度记忆连接不足。 虽然已有研究尝试将记忆组织为拓扑结构（例如知识图谱或树结构），但这些方法大多聚焦于单一粒度层级——要么是实体级别，要么是会话摘要级别。这种单尺度范式无法建模不同粒度记忆单元之间的跨层交互，导致检索结果往往只包含部分有用信息。如图1所示，在回答跨多轮会话的问题时，需要在不同粒度之间建立语义关联（例如通过共享关键词或摘要将对话1与对话2连接起来）。如果未能建立这种关联，就会出现信息检索不完整的情况（例如仅检索到对话1），从而导致错误答案。

（ii）缺乏自适应的多粒度记忆选择机制。 当前方法主要依赖固定的粒度策略（如基于会话或轮次的划分，或由LLM生成的摘要），这往往由于粒度选择不当而导致上下文信息缺失或噪声干扰。尽管基于主题的划分方法能够提升片段内部的一致性，但它们缺乏针对不同查询动态选择粒度的能力。我们在图1(a)中的实证分析表明，根据每个查询自适应地选择最合适的粒度（例如在摘要/关键词带来的降噪效果与原始会话的信息完整性之间进行权衡）可以显著提升性能。这一发现凸显了粒度选择在解决“信息-噪声权衡”问题中的重要性。

基于上述问题，本文提出了 MemGAS 框架，通过多粒度关联与自适应选择来构建和检索长期记忆。我们的方法主要包含两个核心策略：

（i）记忆关联（Memory Association）： 利用LLMs生成记忆摘要和关键词，构建多粒度记忆单元。在新记忆更新时，采用高斯混合模型（Gaussian Mixture Model）将历史记忆划分为接受集合（相关）与拒绝集合（不相关），并将接受集合中的记忆与新记忆建立关联，从而实现记忆结构的整合与实时更新。

（ii）粒度选择（Granularity Selection）： 引入基于熵的路由机制，通过评估查询相关性分布的不确定性，自适应地为不同粒度分配检索权重。随后，利用个性化PageRank算法检索关键记忆，并通过LLM进行过滤以去除冗余信息，从而获得高质量、精炼的记忆内容，提升对话系统的理解能力。

在四个开源长期记忆基准数据集上的实验表明，MemGAS 在问答任务和检索任务上均显著优于当前最先进方法以及单一粒度方法，并在不同查询类型及不同 top-k 设置下持续取得更优表现。

方法

本节首先对任务与数据格式进行定义，随后构建一个动态记忆关联框架，详细介绍一种基于熵的路由机制以选择更合适的粒度，并概述用于检索与过滤高质量上下文信息以生成响应的策略。

预备知识（Preliminary）

本文的研究重点在于通过长期对话记忆构建个性化助手。在该设定下，系统利用跨多个会话的用户—代理交互（统称为“记忆”）来构建外部记忆库 $M$。不失一般性地，第 $i$ 个会话可表示为

\[S_i = \{(u^{(i)}_j, a^{(i)}_j)\}_{j=1}^{n_i}\]

当助手接收到查询 $q$ 时，我们的目标是通过跨多粒度（包括会话级 $S$、轮次级 $T$、关键词级 $K$ 和摘要级 $U$）的关联机制，从记忆库 $M$ 中检索出相关记忆子集 $M_{\text{rel}} \subseteq M$，并基于这些信息生成响应：

\[a = \text{LLM}(q, M_{\text{rel}})\]

该问题的核心挑战在于：一方面，需要建立跨不同粒度的记忆关联；另一方面，需要学习一种自适应的粒度选择函数

\[\psi: q \rightarrow {\alpha_s, \alpha_t, \alpha_k, \alpha_u}\]

多粒度关联构建（Multi-Granularity Association Construction）

现有方法通常将记忆编码为向量库（例如基于会话级的片段），并通过相似度搜索直接进行信息检索。然而，这类方法忽视了记忆之间更深层次的关联关系。为了解决这一问题，本文提出了一种关联式记忆构建过程，用于捕捉多粒度之间的关系。

多粒度记忆元数据（Multi-Granular Memory Metadata）。 对于第 $i$ 个会话 $S_i$，利用LLM生成多粒度的元数据，包括会话摘要 $U_i$ 和关键词 $K_i$。同时，将该会话划分为多个对话轮次 $T_i$。形式化表示为：

\[U_i, K_i = f_{\text{LLM}}(S_i), \quad T_i = \text{segment}(S_i)\]

其中，$f_{\text{LLM}}$ 表示 LLM 处理函数，$\text{segment}$ 表示分割操作。最终得到的记忆单元 $M_i$ 融合了会话级信息 $S_i$、轮次级对话 $T_i$、摘要 $U_i$ 以及关键词 $K_i$，并存储于记忆库中：

\[M_i = \{S_i, T_i, U_i, K_i\} \in M\]

动态记忆关联（Dynamical Memory Association）。 当新增记忆 $M_{\text{new}}$ 被加入时，当前记忆库 $M_{\text{cur}}$ 会更新为：

\[M_{\text{cur}} \leftarrow M_{\text{cur}} \cup M_{\text{new}}\]

具体而言，记忆库中每个元素的不同粒度都会被编码为稠密向量表示。对于会话级、轮次级、摘要级和关键词级元数据，分别表示为 $e(S_i)$、$e(T_i)$、$e(U_i)$ 和 $e(K_i)$。因此，整个记忆库 $M_{\text{cur}}$ 可以表示为由这些多粒度向量组成的集合。

随后，在新记忆 $e(M_{\text{new}})$ 与当前记忆库 $e(M_{\text{cur}})$ 之间计算两两相似度分数，覆盖每个记忆的所有粒度。得到的相似度向量集合 $s_{\text{sim}}$ 会通过 GMM 进行聚类，并划分为两个概率集合：

• 接受集合（Accept Set）： 与 $M_{\text{new}}$ 相似度较高的记忆，与新记忆建立直接关联；
• 拒绝集合（Reject Set）： 与新记忆无关的记忆，在当前阶段不建立连接。

需要注意的是，相似度向量是在**粒度特定信息（granularity-specific information）**的基础上计算的，这意味着 $M_{\text{new}}$ 的每一种粒度都被视为一个节点，并用于与 $M_{\text{cur}}$ 中的节点建立连接。我们维护一个关联图 $A_{\text{cur}}$ 来存储记忆库 $M$ 中的这些连接关系，其更新方式为：

\[A_{\text{cur}} \leftarrow A_{\text{cur}} \cup A_{\text{new}}\]

该过程通过有选择地强化在上下文上相关的记忆，模拟了类似人类的记忆巩固机制。

多粒度路由器（Multi-Granularity Router）

现有方法通常依赖单一预定义的粒度进行记忆检索，这限制了其根据查询内容自适应地优先选择细粒度或粗粒度信息的能力。为了解决这一问题，本文提出了一种基于熵的路由机制（entropy-based router），能够针对每个查询动态选择最合适的粒度。

基于熵的粒度选择（Entropy-Driven Granularity Selection）。 对于给定查询 $q$，首先计算其与各个粒度层级 $g \in {\text{session}, \text{turn}, \text{summary}, \text{keyword}}$ 上所有记忆片段之间的相似度。设：

\[s_g = [\text{sim}(q, M^g_1), \dots, \text{sim}(q, M^g_n)]\]

表示查询 $q$ 与粒度 $g$ 下 $n$ 个记忆片段之间的相似度分数。随后，将 $s_g$ 归一化为概率分布 $p_g(s_g)$，并计算其香农熵（Shannon entropy）：

\[H^g = - \sum_{i=1}^{n} p_i^g(s^g)\,\log p_i^g(s^g), \quad\text{where }p_i^g(s^g) = \frac{\exp\big(\operatorname{sim}(q, M_i^g)/\lambda\big)}{\sum_{j=1}^{n} \exp\big(\operatorname{sim}(q, M_j^g)/\lambda\big)},\ \forall i \in \{1, \ldots, n\}.\]

其中，$H_g$ 用于量化查询 $q$ 在粒度 $g$ 下与记忆匹配的不确定性程度。参数 $\lambda$ 是用于控制熵影响程度的超参数，其具体作用与设置在附录 F 中进行了分析。

软路由权重（Soft Router Weights）。 我们的核心动机在于：较低的熵 $H_g$ 通常意味着更高的匹配置信度（例如，较低的不确定性表明查询与某些记忆之间存在明确对应关系）；相反，较高的熵则意味着匹配更加模糊（即难以确定查询对应的具体记忆）。为刻画这一特性，我们通过对熵的倒数进行归一化来为不同粒度分配权重：

\[w_g = \frac{1/H_g}{\sum_{g'=1}^{G} 1/H_{g'}}\]

其中，$G$ 表示粒度的总数。该公式保证了熵较低（确定性更高）的粒度会被赋予更大的权重。因此，在检索过程中，系统会对与查询最具确定性关联的粒度所对应的记忆进行强化，从而无需人工干预即可实现自适应优化。

关于多粒度关联与路由机制的理论分析，详见附录 H。

记忆检索与过滤（Memory Retrieval and Filter）

在完成多粒度记忆关联构建并确定粒度权重之后，我们基于图结构化记忆 ${M_i, A_i} \in M \times A$ 对查询 $q$ 进行相关记忆检索。为充分利用记忆之间的关系，本文采用**个性化PageRank（Personalized PageRank, PPR）**算法进行上下文感知排序。

在粒度层面上，我们将每个 $M_i^g$（即记忆 $M_i$ 在第 $g$ 个粒度上的节点）视为关联图中的一个独立节点。对于每个粒度 $g$，首先根据公式（4）中路由器分配的权重 $w_g$，计算节点 $M_i^g$ 的初始相关性得分：

\[\text{score}_i^g = w_g \cdot \text{sim}(q, M_i^g)\]

其中，$\text{sim}(q, M_i^g)$ 表示查询嵌入 $e(q)$ 与该粒度下记忆嵌入 $e(M_i^g)$ 之间的余弦相似度。所有得分集合 ${\text{score}_i^g}$ 构成了粒度级节点上的个性化初始概率分布。

随后，我们选取得分最高的前 $\alpha$ 个节点作为种子节点（具体分析见附录 F），并在多粒度关联图上运行PPR算法，使相关性沿图结构传播，从而突出那些既与查询直接相关、又与其他高价值节点紧密连接的节点。算法收敛后，根据最终的PPR得分选取得分最高的前 $k$ 个节点，作为候选上下文。参数 $k$ 的影响在第3.4节中进行了实证分析。

基于LLM的冗余过滤（LLM-Based Redundancy Filtering）。 为减少噪声并消除多粒度记忆中的冗余信息，我们引入基于LLM的过滤机制。该机制将检索得到的前 $K$ 条记忆与查询 $q$ 一同输入，通过精心设计的提示词（见附录 J），识别并剔除无关或重复内容。最终提供给响应生成模块的上下文被精炼为仅包含与查询最相关的关键信息，从而生成更加简洁且个性化的回复。

关于多粒度信息的案例分析见附录 K.2，过滤机制的案例分析见附录 K.3。

实验（Experiments）

实验设置（Experimental Settings）

数据集与评估指标（Dataset and Metrics）。 本文在四个综合性的长期记忆数据集上开展实验：LoCoMo、Long-MT-Bench+、LongMemEval-s 和 LongMemEval-m，这些数据集均用于评估LLM智能体在长期对话场景下的能力。由于本文的方法不涉及训练过程（training-free），因此数据集中的全部问答对均用于评估。更详细的数据集统计信息见附录 A。

为了全面评估模型性能，本文采用多种评价指标，包括：F1 分数（参考 Maharana 等人的设置）、BLEU（默认使用4-gram）、BERTScore，以及 ROUGE 分数（参考 Pan 等人的设置）。此外，本文还引入 GPT4o-as-Judge（GPT4o-J） 作为评估方式，即利用 GPT4o 来评估模型生成回答与参考答案之间的一致性。具体的评估提示词详见附录 J。

基线方法（Baselines）。 我们将 MemGAS 与多种方法进行了对比：

（1）Full History：直接利用最新的全部对话记录，最多包含 128k tokens 的上下文；

两种强大的检索模型：

（2）MPNet，

（3）Contriever；

四种基于记忆的对话模型：

（4）RecurSum：通过LLM递归生成和更新记忆摘要，以支持上下文相关的响应；

（5）MPC：结合提示工程与外部记忆增强LLM能力；

（6）A-Mem：通过生成笔记与链接结构来组织记忆；

（7）SeCom：将记忆划分为语义一致的主题块，并通过压缩去噪提升检索效果；

两种结构化RAG模型：

（8）HippoRAG 2：引入知识图谱以提升检索效率；

（9）RAPTOR：通过递归摘要与层级聚类构建树结构以增强检索能力；

此外，还包括两种近期提出的记忆模型：

HMEM：提出四层层级化记忆结构，并结合位置索引机制；

COMEDY：提供统一的“One-for-All”压缩记忆框架，无需传统记忆存储结构。

由于篇幅限制，HMEM 与 COMEDY 的实验结果见附录 I.2，更多细节见附录 B。

实现细节（Implementation Details）。 我们在所有任务中均使用 gpt-4o-mini-2024-07-18 作为基础模型，包括多粒度信息生成与问答任务。为保证公平性，所有基线方法均采用一致的生成提示。LLM 的 temperature 设置为 0 以确保结果可复现，所有模型均在 zero-shot 设置下运行，具体提示模板见附录 J。

在检索设置上，所有模型统一采用 top-3 会话检索策略；对于 SeCom 使用 top-3 片段，对于 RAPTOR 使用会话或摘要。编码模型统一采用 Contriever 来生成记忆文本的向量表示。超参数通过网格搜索确定：$\lambda \in {0.1, 0.2, 0.3, 0.5, 0.7, 1.0}$，$\alpha \in {5, 10, 15, 20, 25}$。

由于 LongMTBench+ 缺乏检索任务的真实标注，因此不纳入检索评估。此外，RAPTOR 与 A-Mem 无法在会话级 Recall 指标下进行评估，因为其存储单元为抽象或重写后的表示，无法与真实会话建立确定映射。在 LongMemEval-m 数据集上，RAPTOR、A-Mem 和 HippoRAG 的结果由于运行成本较高而未提供。

我们还在不同检索器、生成器及查询类型下对多种方法进行了对比分析（详见附录 E.1、E.2 和 E.3）。此外，附录 F 提供了超参数分析，附录 G 提供了误差分析，附录 D 则讨论了方法的额外开销与效率表现。

整体结果（Overall Results）

我们分别在表1和表2中展示了问答任务（Question Answering）和检索任务（Retrieval）的实验结果。此外，单一粒度与多粒度方法的对比结果见附录 C。下面对主要结果进行分析。

问答结果（Question Answering Results）。 如表1所示，MemGAS 在大多数数据集和评估指标上均稳定优于其他方法。与使用全部历史上下文、容易引入噪声的 Full History 方法不同，MemGAS 通过有效整合并检索最相关的记忆，实现了更优性能。其他基线方法（如 RecurSum 和 SeCom）虽然在特定粒度上进行建模，但由于缺乏跨粒度记忆关联能力，整体效果仍不理想。

此外，HippoRAG 2 和 RAPTOR 等方法虽然能够在记忆单元之间建立一定的连接，但未能有效构建多粒度关系及其选择机制，从而限制了性能表现。相比之下，MemGAS 通过多粒度记忆单元的动态构建、自适应路由机制以及冗余过滤策略，实现了更优表现，突出了“关联”和“选择”在记忆管理中的关键作用。

在效率方面，MemGAS 在保持具有竞争力的 token 使用量的同时，实现了更高质量的问答表现，并且相较于 A-Mem 和 RecurSum 等方法，其延迟相当甚至更低，使其在准确性与效率之间取得了更优平衡。

检索结果（Retrieval Results）。 如表2所示，MemGAS 在所有数据集上均表现出色，在 Recall 和 NDCG 等指标上持续取得最佳成绩。这些结果表明，该方法在长期记忆构建与检索方面具有良好的有效性与鲁棒性，能够确保查询与最相关的上下文进行准确匹配。

消融实验（Ablation Study）

表3中的消融实验结果表明，各个组件在提升问答（QA）和检索性能方面都具有重要作用。无论是单独移除高斯混合模型（GMM）、个性化PageRank（PPR）、记忆关联（MA）还是路由器（Router），都会导致性能持续下降，从而验证了这些模块的关键贡献。尤其是在移除所有组件的情况下，性能下降最为显著：F1 分数从 20.38 降至 13.78，Recall@3 从 78.51 降至 71.06，这进一步说明各模块在整体性能提升中的不可或缺性。

此外，这些模块引入的额外延迟非常有限，其中问答任务的最大延迟增加仅为 0.0191 秒，检索任务为 0.0079 秒。我们还发现，LLM 的 API 调用占据了整体端到端延迟的 98% 以上，是系统响应时间的主要来源，而本文方法引入的额外开销在实际应用中是可以接受的。

综上所述，该架构在性能提升与计算效率之间实现了良好的平衡。

摘要

为了实现长期的人机交互，对话智能体需要持续地记忆所感知的信息，并在生成回复（response generation, RG）时能够恰当地检索这些信息。以往研究多关注通过移除过时记忆来提升检索质量，但我们认为，这类记忆在长期对话中能够为回复生成提供丰富且重要的上下文线索（例如用户行为的变化）。
本文提出了 THEANINE，一个基于大语言模型（LLM）的终身对话智能体框架。THEANINE 摒弃了记忆删除机制，而是通过基于时间关系与因果关系对大规模记忆进行关联式管理。在这种关联结构的支持下，THEANINE 通过引入“记忆时间线”（memory timelines）来增强回复生成能力——即由一系列记忆构成的序列，用于刻画相关历史事件的演化过程或因果关系。
此外，本文还提出了 TeaFarm，一种基于反事实驱动的评估方案，用于弥补 G-Eval 以及人工评估在衡量智能体将历史记忆整合进回复生成过程中的能力方面的不足。

引言

一种具有代表性的方法是将过往对话压缩为摘要式记忆，并在后续交互中检索这些记忆以增强回复生成（response generation, RG）（Xu et al., 2022a；Lu et al., 2023）。然而，随着对话不断累积，记忆规模的增长会对检索质量产生负面影响。尽管可以通过更新旧记忆在一定程度上缓解这一问题（Bae et al., 2022；Zhong et al., 2024），但这种常见做法往往会导致严重的信息丢失。

如图1(a)所示，在记忆更新时间线中，较早的一条关键记忆（例如一个重要的人设信息：“害怕船只”）被移除，从而导致回复生成不当。另一方面，利用近期大语言模型所具备的大上下文窗口来处理全部对话历史或记忆，虽然可以避免信息丢失¹，但往往会使模型对最新用户输入产生偏置性关注（见图1(b)），进而忽略过去相关的重要上下文（Liu et al., 2024）。

这些现象揭示了构建终身对话智能体所面临的两个核心挑战：

• （i）记忆构建（Memory construction）：如何在不删除旧记忆的前提下，有效存储大规模历史交互信息？
• （ii）回复生成（Response generation）：在不断增长的记忆空间中，如何识别与当前对话最相关的上下文线索，以生成恰当的回复？

受上述问题的启发，我们提出将这两个挑战分别但互补地加以解决：

（i）通过放弃记忆更新机制以避免信息丢失，并以一种关联结构在时间线上保留相关记忆；

（ii）将整条时间线作为整体进行检索，从而在不断扩展的搜索空间中更好地捕捉相关记忆。

基于这一思路，我们提出了 THEANINE，一个用于支持终身对话智能体的框架。

在记忆构建阶段（Phase I），不同于将原始记忆句子简单堆叠（Xu et al., 2022a）——这种方式由于信息结构松散，可能会影响记忆检索效果及回复质量（Mousavi et al., 2023；Chen et al., 2023）——THEANINE 将记忆存储为一个有向图结构。在该图中，受人类记忆机制的启发（即人们倾向于基于事件之间的关联将新记忆连接到已有记忆之上）（Bartlett, 1995），各个记忆节点通过其时间关系以及因果常识关系（Hwang et al., 2021）进行连接。

在这种关联结构的支持下，在用于回复生成（RG）的记忆检索阶段（Phase II-1），我们超越了传统的 top-k 检索方法，进一步获取完整的“时间线”（timelines），从而避免遗漏那些与当前对话文本重叠较低但仍然重要的记忆（Tao et al., 2023）。最后，为了解决离线记忆构建与在线部署之间的不一致问题，THEANINE 在时间线检索后（Phase II-2）利用大语言模型对其进行基于当前对话的细化，使其能够为回复生成（Phase III）提供更加定制化的信息（Chae et al., 2023）。

本文的贡献主要体现在以下两个方面：

• 为实现终身对话智能体，本文提出了 THEANINE，这是一个基于大语言模型的框架，通过引入关系感知的记忆图结构以及“时间线增强”（timeline augmentation）机制来支持长期对话。实验结果表明，在自动评估、基于LLM的评估以及人工评估的回复生成（RG）任务中，THEANINE 均优于具有代表性的基线方法。同时，我们验证了该框架能够显著提升记忆检索质量，其处理流程也更符合人类偏好。据我们所知，这是首次在记忆管理与回复生成中显式建模“时间线”（即相互关联的相关记忆）的工作。

• 另一方面，由于对话与参考记忆之间缺乏“黄金映射”（golden mapping），使得评估基于记忆增强的智能体变得困难。为此，我们提出了 TeaFarm，一种基于反事实驱动的评估流程，用于在无需人工干预的情况下，衡量智能体在引用历史信息方面的表现。

方法

我们提出 THEANINE，这是一个面向终身对话智能体的框架，其设计灵感来源于人类在对话过程中进行记忆存储与检索的方式（见图2）。

记忆图构建（Memory Graph Construction, Phase I）

为了管理大规模记忆，并为回复生成（RG）提供结构化信息（Mousavi et al., 2023；Chen et al., 2023），我们采用记忆图（memory graph）来建模记忆管理过程。该记忆图定义为：

$$
G = (V, E)
$$

其中：

$$
V = {m_1, m_2, …, m_{|V|}}
$$

$$
m = (event, time)
$$

$$
E = {\langle m_i, r_{ij}, m_j \rangle \mid m_i, m_j \in V \land r_{ij} \in R}
$$

$$
R = {Cause, Reason, Want, …, SameTopic}
$$

在图 $G$ 中，节点集合 $V$ 表示从对话中总结得到的记忆 $m$。每个记忆 $m = (event, time)$ 由一个事件（event）³以及其被形成（总结）的时间（time）构成。任意两个记忆节点之间的有向边 $e \in E$ 表示它们的时间顺序关系以及因果常识关系 $r \in R$。

在每个对话会话 $t$ 结束时，THEANINE 会将该会话中总结得到的新记忆 $m_{\text{new}}$ 逐一链接到当前的记忆图 $G_t$ 中，从而实现记忆的持续扩展与结构化组织。

Phase I-1：用于记忆链接的关联记忆识别（Identifying associative memories for memory linking）

参考人类将新记忆与具有相似事件或主题的既有记忆进行关联的方式（即“关联记忆”，associative memories），THEANINE 首先从当前记忆图 $G_t$ 中识别这些关联记忆。

形式化地，给定一个待存储的新记忆 $m_{\text{new}}$，其关联记忆集合 $M_a$ 定义为在 $G_t$ 中与 $m_{\text{new}}$ 具有最高 $j$ 个文本相似度的记忆节点集合，即满足 $|M_a| = j$。

Phase I-2：关系感知的记忆链接（Relation-aware memory linking）

直观来看，我们可以通过边将 $m_{\text{new}}$ 与 $m \in M_a$ 连接起来，这些边仅表示它们之间的文本相似性以及时间先后顺序。然而，我们发现这种简化的连接方式（例如“这件事发生了 → 类似事件随后发生”）会导致图结构上下文信息不足，从而难以有效支持回复生成（详见第4节）。

相比之下，人类在理解事件时，往往会考虑事件之间的关系，例如“一个事件如何影响另一个事件？”或“为什么这个人会做出这样的改变？”。因此，THEANINE 采用了一种关系感知的记忆链接机制：在两个记忆之间建立边时，不仅编码它们的时间顺序，还引入其因果常识关系 $r \in R$。

在具体实现中，我们采用了 Hwang 等人（2021）提出的常用关系类型，包括 HinderedBy、Cause、Want 等在内的多种关系（详见附录 B.1）。

此外，在本文中，“事件”（event）指对话系统所感知的信息，包括说话者的行为或发言，以及对说话者人设（persona）的识别与确认。

接下来，我们首先确定 $m_{\text{new}}$ 与每个关联记忆之间的关系。形式化地，对于每一对 $m_{\text{new}}$ 和 $m \in M_a$，由大语言模型（LLM）基于它们的事件（event）、时间（time）以及其来源对话，分配一个关系 $r \in R$：

$$
M_a^* = { m_i \in M_a \mid \Upsilon(m_i, m_{\text{new}}) \in R }
$$

其中，$\Upsilon(\cdot, m_{\text{new}}) \in R$ 表示该记忆与 $m_{\text{new}}$ 之间被赋予了某种关系 $r \in R$，而所有被成功赋予关系的记忆集合定义为 $M_a^*$。

换言之，$M_a^*$ 表示那些不仅在文本上相关，而且在语义上（通过因果或常识关系）能够与新记忆建立有效连接的关联记忆子集。

随后，我们将 $m_{\text{new}}$ 连接到记忆图中。首先，我们定位所有包含至少一个 $m \in M_a^*$ 的连通子图（connected component）$C_i \subset G_t$，如图3(a)和(b)所示：

$$
C = { C_i \subset G_t \mid V(C_i) \cap M_a^* \neq \varnothing }
$$

其中，$C$ 表示满足条件的所有连通子图的集合，$V(\cdot)$ 表示“该子图中的节点集合”。

接着，对于每一个 $C_i \subset C$，我们将 $m_{\text{new}}$ 连接到其中最新的（most recent）$m \in M_a^*$（见图3(c)）。与 $m_{\text{new}}$ 建立连接的记忆集合 $M_{\text{linked}}$ 定义为：

$$
M_{\text{linked}} = { \Omega\big(V(C_i) \cap M_a^*\big) \mid C_i \subset C }
$$

其中，$\Omega(\cdot)$ 表示“集合中时间上最新的记忆”。

这种策略确保在每个相关的连通子结构中，仅选择代表当前语境最新状态的记忆与 $m_{\text{new}}$ 建立连接，从而在控制图结构复杂度的同时，保留时间与语义上的关键演化信息。

在将会话 $t$ 中的所有记忆逐一链接到当前记忆图 $G_t$ 后，我们即可得到更新后的新记忆图 $G_{t+1}$。

Phase I 的整体流程（记忆图构建阶段）的伪代码如算法1所示。

时间线检索与时间线细化（Timeline Retrieval and Timeline Refinement, Phase II）

得益于所构建的记忆图结构，THEANINE 可以在回复生成（RG）过程中引入与当前对话相关的“事件时间线”（timelines），从而缓解传统记忆管理方式中的信息丢失问题（见图1）。在获得记忆图 $G_{t+1}$ 后，THEANINE 在会话 $t+1$ 的回复生成过程中执行以下步骤：

准备阶段：Top-k 记忆检索（Top-k memory retrieval）
在对话进行过程中，以当前对话上下文 $D = {u_i}_{i=1}^{n}$（由 $n$ 条话语 $u$ 构成）作为查询，从记忆图中检索出 top-$k$ 个最相关的记忆：

$$
M_{re} = \lbrace m_{re,i} \mid i = 1,\dots,k \rbrace
$$

这些检索到的记忆将作为后续时间线构建与细化的基础输入。

Phase II-1：原始记忆时间线的检索与解缠（Retrieving and untangling raw memory timelines）

我们希望不仅获取 $M_{\text{re}}$ 中的记忆，还能够访问围绕这些记忆展开的相关上下文。形式化地，对于每个 $m_{\text{re}} \in M_{\text{re}}$，我们进一步基于记忆图中的连接结构，收集包含该节点的连通子图 $C_{\text{re}} \subset G_{t+1}$。

然而，由于图结构的存在，这些记忆集合（即 $C_{\text{re}}$）通常是“缠绕”的（即以复杂方式相互连接）。因此，我们需要将其“解缠”为若干条记忆时间线（memory timelines）。每一条时间线表示一系列围绕 $m_{\text{re}}$ 展开的事件，这些事件可能具有相似的起点，但在后续发展中分化为不同的路径。

为此，我们首先在 $C_{\text{re}}$ 中定位最早的记忆，作为所有时间线的起点 $m_{\text{start}}$（如图4左所示）：

$$
m_{\text{start}} = \Theta\big(V(C_{\text{re}})\big)
$$

其中，$\Theta(\cdot)$ 表示“集合中时间最早的记忆”。

该起点为后续时间线的展开提供了统一的源头，使得不同事件发展路径可以在一致的时间基准下进行建模与分析。

接下来，以 $m_{\text{start}}$ 为起点，我们沿着时间的“未来方向”对记忆进行解缠，通过遍历图结构，从 $C_{\text{re}}$ 中提取所有包含 $m_{\text{re}}$ 的线性路径（如图4中所示的两条路径）。这一过程会持续进行，直到到达某个终止节点 $\tau[-1]$，其出度为 0（即 $\deg^{+}(\tau[-1]) = 0$，表示没有从该节点出发的有向边）。每一条这样的路径都被视为一条原始记忆时间线 $\tau$，用于刻画 $m_{\text{re}}$ 及其相关事件的一种演化过程：

$$
T = {\tau \subset C_{\text{re}} \mid \tau \text{ 是一条有向线性图，且 } m_{\text{start}}, m_{\text{re}} \in \tau \land \deg^{+}(\tau[-1]) = 0 }
$$

随后，我们从集合 $T$ 中采样 $n$ 条原始时间线 $\tau$。对所有检索得到的 top-$k$ 记忆重复执行 Phase II-1 后，我们最终获得一组原始记忆时间线集合：

$$
\mathcal{T} = \bigcup T, \quad |\mathcal{T}| = k \times n
$$

该过程使模型能够从图结构中提取出多条可能的事件发展路径，为后续更精细的时间线筛选与回复生成提供丰富的候选上下文。

Phase II-2：上下文感知的时间线细化（Context-aware timeline refinement）

尽管我们已经通过引入时间关系与常识关系构建了信息更丰富的记忆图，但如果直接将检索到的时间线用于回复生成（RG），效果仍可能不理想（见第4节 RQ3）。其原因在于：记忆图是在离线阶段构建的，并未考虑当前正在进行的对话上下文。因此，在本阶段中，THEANINE 通过“上下文感知的时间线细化”来弥合离线记忆构建与在线对话之间的差距。

受大语言模型能够对其生成结果进行自我优化与修正的能力启发（Madaan et al., 2024），我们利用 LLM 对原始时间线进行重构，使其转化为更契合当前对话需求的信息资源，例如去除冗余内容或突出关键信息。

形式化地，给定当前对话上下文 $D$ 和检索得到的原始时间线集合 $\mathcal{T}$，LLM 将每一条时间线 $\tau \in \mathcal{T}$ 转换为细化后的时间线集合 $\mathcal{T}_{\Phi}$：

\[T_{\Phi} = \left\{ \arg\max_{\tau_{\Phi}} P_{\mathrm{LLM}}\left(\tau_{\Phi} \mid D, \tau\right) \mid \tau \in \mathcal{T} \right\}\]

最终，所有细化后的时间线 $\mathcal{T}_{\Phi}$ 将用于增强回复生成过程。

Phase II 的完整流程伪代码见算法2。

时间线增强的回复生成（Timeline-augmented Response Generation, Phase III）

在这一阶段，THEANINE 利用已经细化后的时间线来进行回复生成（RG）。

形式化地，给定当前对话上下文 \( D = \lbrace u_i \rbrace_{i=1}^{n} \) 以及细化后的时间线集合 \( \mathcal{T}_{\Phi} \)，大语言模型生成下一条回复 \( u_{n+1} \)：

$$
u_{n+1} = \arg\max_{u_{n+1}} P_{\text{LLM}}(u_{n+1} \mid D, \mathcal{T}_{\Phi})
$$

也就是说，模型在生成回复时，不仅依赖当前对话内容 $D$，还融合了经过筛选与重构的历史事件时间线 $\mathcal{T}_{\Phi}$，从而能够更好地利用长期记忆中的关键上下文信息，提高回复的连贯性与一致性。

实验设置

数据集

目前，用于长周期、多会话对话的公开数据集仍然较为有限。首先，Multi-Session Chat（MSC）（Xu et al., 2022a）是在 PersonaChat（Zhang et al., 2018）的基础上构建的，通过将原始对话扩展为多轮（五个）会话来实现长期对话建模。随后，DuLeMon（Xu et al., 2022b）和 CareCall（Bae et al., 2022）相继被提出，分别面向中文和韩文的长期对话场景。

近年来，Conversation Chronicles（CC）（Jang et al., 2023）作为一个新的数据集被发布。与 MSC 不同，CC 为对话参与者引入了明确的关系设定，例如“员工与上司”等，从而增强了对话的结构性与语境约束。

除了这些开放域数据集之外，Psychological QA⁸ 则关注于临床场景下的长期对话（以中文为主）。在本文中，我们选择 MSC 和 CC 作为评估数据集，以聚焦英文对话场景；而多语言及特定领域的数据集（如 DuLeMon、CareCall 和 Psychological QA）则留待未来工作进一步探索。

基线方法（Baselines）

为了评估 THEANINE 的性能，除了一些直接利用全部历史对话或记忆的朴素基线方法之外，我们还引入了以下具有代表性的设置与方法：

Memory Retrieval（记忆检索）
遵循 Xu et al. (2022a) 的做法，我们使用检索器从记忆库中提取与当前对话上下文相关的记忆，以增强回复生成（RG）。

Memory Update（记忆更新）
在每个对话会话结束时，我们利用大语言模型实现 Bae et al. (2022) 提出的常用记忆更新算法。该算法包括多种操作，如 Change（修改）、Replace（替换）、Delete（删除）、Append（追加）等（详见附录 H）。

RSum-LLM
一种纯生成式方法（Wang et al., 2023），完全依赖 LLM，通过递归地对记忆池进行摘要与更新来生成回复，而不使用显式的检索模块。

MemoChat
由 Lu et al. (2023) 提出，该方法利用 LLM 的链式思维（Chain-of-Thought, CoT）能力：（i）以“主题—摘要—对话”的结构从历史对话中提取重要记忆；（ii）选择相关记忆；（iii）生成回复。

COMEDY
由 Chen et al. (2024b) 提出，该方法使用 LLM 对每个会话级别的记忆进行总结，并将其压缩为简短的事件表示、用户画像（如行为模式、情绪等）以及用户-智能体关系信息。随后，从这些压缩记忆中选择相关内容用于增强回复生成。

模型与实现细节（Models and Implementation Details）

大语言模型（Large language models）
在所有实验中（包括各类基线方法），我们统一采用 gpt-3.5-turbo-0125（OpenAI, 2023）用于：（i）记忆摘要（见表6）、（ii）记忆更新，以及（iii）回复生成。温度参数（temperature）设定为 0.75。

检索器（Retrievers）
对于涉及检索的设置，我们使用 text-embedding-3-small（OpenAI, 2024b）来计算文本相似度。在关联记忆识别（Phase I-1）和 top-$k$ 记忆检索（Phase II）中，我们将 $j$ 和 $k$ 均设为 3。而在“Memory Retrieval”基线方法中，按照 Xu et al. (2022a) 的设置，将 $k = 6$。

对话会话（Dialogue sessions）
在评估阶段，我们使用 MSC 和 CC 数据集的第 3 至第 5 个会话进行实验。这是因为在前两个会话（session 1–2）中，各方法表现几乎一致（由于尚未形成可更新的记忆）。

评估方案一：自动评估与人工评估（Evaluation Scheme 1: Automatic and Human Evaluations）

为了评估 THEANINE 在长期对话中的回复质量，我们遵循常见做法，采用三类评估方式：（i）自动评估（Automatic evaluations）；（ii）G-Eval（Liu et al., 2023），一种基于大语言模型的生成评估框架；（iii）人工评估（human evaluation）。以下总结若干关键发现（具体细节、提示设计及评估界面见附录 E）：

（发现1）THEANINE 在回复生成任务中优于各类基线方法。

表 1：回复质量的自动评估（各会话平均）

表1展示了不同方法在回复生成（RG）任务中的性能，评估指标包括基于重叠的指标和基于语义嵌入的指标，例如：

• Bleu-4（Papineni et al., 2002）
• Rouge-L（Lin, 2004）
• Mauve（Pillutla et al., 2021）
• BertScore（Zhang et al., 2020）

在两个数据集上，THEANINE 在整体回复质量方面均优于多种基线方法。尽管在 MSC 数据集上，相较于“Memory Retrieval”方法，THEANINE 在部分基于重叠的指标（如 Bleu-4 和 Rouge-L）上略低，但在基于语义表示的指标（如 Mauve 和 BertScore）上表现显著更优。

值得注意的是，包括 THEANINE 在内，不采用记忆更新机制的方法通常获得更高的评估分数。这一现象从实验层面支持了本文的核心观点：对于终身对话智能体而言，无需更新或删除记忆的管理策略更有利于提升整体性能。

（发现2 & 3）各阶段均对性能有贡献；整体检索“时间线”相比传统检索带来显著提升。

表 2：消融实验性能（各数据集平均）。

为了深入分析模型设计的有效性，我们进一步研究了以下因素对 THEANINE 性能的影响：
（i）在记忆链接阶段（Phase I-2）中移除“关系感知”（relation-awareness）；
（ii）移除时间线细化（Phase II-2）；
（iii）为客观评估“时间线整体检索”的作用，我们设计了一种对照设置：将检索到的时间线打散为随机排序的事件序列，使其在回复生成（RG）时与传统的 top-$k$ 检索格式一致。

从表2的结果可以观察到，各组件对性能的贡献排序为：

关系感知记忆链接 > 整体时间线检索 > 时间线细化

这一结果表明：
首先，引入因果关系的记忆图构建（relation-aware linking）对于提升性能最为关键，验证了在记忆结构中显式建模事件间因果关系的有效性。
其次，基于该图结构对相关事件进行“时间线级别”的整体检索，相比传统的 top-$k$ 检索方法，能够显著提升回复生成质量——即使初始检索规模更小（$k=3$ 对比 $k=6$）。
最后，时间线细化（timeline refinement）虽然带来了性能提升，但增益相对较小，这表明其在实际应用于回复生成时仍存在优化空间，有待未来进一步研究。

（发现4）人工评估与 G-Eval 表明，THEANINE 在记忆检索的有效性与准确性方面均表现更优。

除了评估智能体生成的回复质量之外，我们还进一步分析了不同记忆构建方法对记忆检索质量的影响。在相同的当前对话作为查询条件下，图5展示了方法之间的两两对比（ours vs. baselines），评估其检索到的记忆在多大程度上有助于提升回复生成（RG）。

结果表明，THEANINE 在所有对比中均取得了更高的胜率，尤其是在人工评估中优势更为明显。这说明该方法能够为回复生成提供更有帮助的记忆增强信息。

除了“有用性”（helpfulness），对检索“准确性”（accuracy）的客观评估同样至关重要。然而，现有的长期对话数据集并未提供对话上下文与记忆之间的“黄金映射”（即标准答案）。为此，我们筛选了 50 个需要依赖历史记忆进行回复生成的对话上下文（测试样本），并对不同方法的检索准确率进行人工标注评估。

表3的结果显示，THEANINE 及其消融变体在检索准确率方面均优于各类基线方法，并且其性能排序与表1中的结果以及表4中的成功率保持一致。这进一步验证了该方法在记忆检索与利用方面的整体优势。

（发现5）人工评估表明，THEANINE 能生成更好地蕴含（entail）历史交互信息的回复。

在验证了 THEANINE 检索到的记忆具有较高“有用性”之后，我们进一步探究这些记忆是否能够促进可靠的长期人机交互。为此，我们组织标注人员通过多数投票的方式，对模型生成的回复进行判断：其与历史对话之间是“蕴含”（entail）、“矛盾”（contradict）还是“中立”（neutral）。

如图6所示，THEANINE 不仅将“矛盾”回复的比例降低至较低水平（4%），还在“蕴含”类别上取得了最高占比（68%）。这表明其生成的回复在很大程度上能够正确反映并延续历史对话内容，显著优于各类基线方法。

我们认为，这一优势源于其基于“时间线”的建模方式：通过组织相关记忆的演化过程，模型能够更好地刻画说话者之间的历史交互，从而生成与过去信息更加一致的回复。这种一致性对于对话智能体维持长期用户关系（例如建立亲密感）至关重要（Adiwardana et al., 2020）。

此外，这种高“蕴含性”与低“矛盾性”的特性也使 THEANINE 在特定应用场景中具有潜在价值。例如，在个性化医疗辅助等场景中，智能体需要确保其回复与用户历史信息（如电子健康记录或既往咨询记录）保持一致，这对于诊断决策具有重要意义（Tseng et al., 2024）。

补充说明：Memory Update 方法在“矛盾”回复方面表现更低（2%），这表明在以下两者之间可能存在权衡关系：（i）通过删除过时记忆来避免矛盾；（ii）保留这些记忆以为回复生成（RG）提供更丰富的信息（Kim et al., 2024a）。

（发现6）人工评估表明，THEANINE 的中间处理过程具有较高合理性。

如图7所示，评审人员在很大程度上认同 THEANINE 的中间步骤设计：

• 在记忆链接阶段，92% 的评审认为模型能够正确地为记忆之间分配因果关系，这也解释了其在性能上的提升；
• 在时间线细化阶段，评审一致认为（100%，共100个样本）该过程能够有效提取出更有助于回复生成的信息。

这些结果从人类评估角度进一步验证了 THEANINE 各个关键模块设计的有效性与合理性。更多关于各阶段处理过程及回复生成的具体示例见附录 G。

评估方案二：TeaFarm —— 基于反事实驱动的长期对话评估框架

（Evaluation Scheme 2: Counterfactual-driven Evaluation Pipeline）

在长期对话场景中，评估基于记忆增强的智能体具有较大挑战性，主要原因在于缺乏当前对话与“正确记忆”之间的标准映射（ground-truth mapping）。虽然可以借助 G-Eval，向评估用的 LLM（如 GPT-4）输入完整历史对话并判断回复是否正确引用过去信息，但这种方法的效果在很大程度上依赖于评估模型本身的能力（Kim et al., 2024b）。

为了解决这一问题，本文在提出 THEANINE 的同时，引入了 TeaFarm ——一种无需人工参与的、基于反事实（counterfactual）驱动的评估流程，用于衡量长期对话中记忆增强回复生成的效果。

基于反事实问题的记忆能力测试

（Testing Dialogue Agents’ Memory via Counterfactual Questions）

在 TeaFarm 中，我们通过“误导”对话智能体来测试其记忆能力：系统会构造与事实相反的陈述（反事实），诱导模型生成错误回答，而只有正确引用历史对话信息的模型才能避免被误导。

具体而言，在与智能体对话时，我们会假装某些不真实的陈述为真（即反事实设定）。例如（见图8），问题可能基于错误前提提出，而模型需要识别并纠正这些前提。

在实践中，当评估一个已经与用户进行了多轮会话的智能体时，TeaFarm 的流程如下：

1. 收集历史对话：整理所有过往会话，并按会话逐一进行摘要；
2. 输入摘要：将这些按时间排序的摘要输入到问题生成 LLM，使其能够理解各事件的当前状态（例如：“说话者B没有车”）；
3. 生成反事实问题：从双方视角生成反事实问题及其正确答案；
4. 模拟新会话：启动一个新的对话会话，与智能体进行自然交互；
5. 提出问题：在对话过程中自然地引入反事实问题；
6. 评估回答：根据模型是否能够抵抗误导、正确引用历史信息来评估其表现。

该方法的核心优势在于：无需人工标注“正确记忆”，即可通过反事实机制自动评估模型是否真正掌握并使用了历史信息。TeaFarm 的整体流程图、提示设计及合成数据示例分别见附录 C、H 和 D。

TeaFarm 评估结果（TeaFarm Results）

在表4中，THEANINE 在成功率（SR, Success Rate）上整体优于各类基线方法，尤其是在 Conversation Chronicles（CC）数据集上表现更为突出。消融实验的性能略低于完整模型，再次验证了关系感知记忆链接与时间线细化机制的有效性。

一个值得注意的现象是：所有方法的成功率整体较低。这表明 TeaFarm 作为评估框架具有较强的“压力测试”（stress-testing）能力，能够有效揭示长期对话中模型记忆能力的不足。

此外，一个有趣的发现是：采用检索机制的方法（与 THEANINE 类似）整体优于仅依赖 LLM 的方法（如 RSum-LLM、MemoChat 和 COMEDY）。这一结果在一定程度上支持了本文提出的观点——在大语言模型时代，构建结构化记忆管理机制（而非完全依赖生成能力）仍然至关重要。

最后，为了进一步分析模型的局限性，作者在附录 G 中提供了 THEANINE 在 TeaFarm 框架下失败案例的详细分析，以揭示对话智能体在某些复杂情境下仍面临的挑战。

摘要

Current Large Language Models (LLMs) are not only limited to some maximum context length, but also are not able to robustly consume long inputs. To address these limitations, we propose ReadAgent, an LLM agent system that increases effective context length up to 20× in our experiments. Inspired by how humans interactively read long documents, we implement ReadAgent as a simple prompting system that uses the advanced language capabilities of LLMs to (1) decide what content to store together in a memory episode, (2) compress those memory episodes into short episodic memories called gist memories, and (3) take actions to look up passages in the original text if ReadAgent needs to remind itself of relevant details to complete a task. We evaluate ReadAgent against baselines using retrieval methods, using the original long contexts, and using the gist memories. These evaluations are performed on three long-document reading comprehension tasks: QuALITY, NarrativeQA, and QMSum. ReadAgent outperforms the baselines on all three tasks while extending the effective context window by 3.5 −20×.

当前的大语言模型（LLM）不仅受到最大上下文长度的限制，还无法稳定地处理超长输入。为解决这些缺陷，我们提出ReadAgent——一套大语言模型智能体系统，在实验中可将有效上下文长度提升至原来的20倍。
受人类交互式阅读长文档的方式启发，我们将ReadAgent设计为一个简洁的提示系统，利用大语言模型强大的语言能力实现三项核心功能：1. 确定哪些内容应整合为一个记忆单元进行存储；2. 将这些记忆单元压缩为简短的主旨记忆（gist memory）；3. 当完成任务需要回忆相关细节时，主动执行检索操作，从原文中查找对应段落。我们将ReadAgent与多类基线方法进行对比，包括基于检索的方法、直接使用原始长上下文的方法，以及仅使用主旨记忆的方法。对比实验在三项长文档阅读理解任务上开展：QuALITY、NarrativeQA和QMSum。结果表明，ReadAgent在所有三项任务上均优于基线方法，同时将有效上下文窗口扩大了3.5至20倍。

方法

摘要记忆 Gist Memory

摘要记忆（gist memory）是原始长上下文中文本片段的简短摘要的有序集合。构建摘要记忆包含两个步骤：分页和记忆摘要生成，如下文分别描述。

剧情分页（Episode Pagination）

当 ReadAgent 阅读长文本时，它会通过在何处暂停阅读来决定将哪些内容存储为剧情分页（Episode Pagination）。在每一步中，我们向大语言模型（LLM）提供一段文本，该文本从上一次暂停点开始，直到达到最大词数限制为止。我们提示 LLM 选择一个段落之间的自然停顿点，然后将上次暂停点到当前暂停点之间的内容视为一个剧集（也称为一页）。这就是剧集分页，我们通过以下提示来实现这一机制。

如提示中所示，段落之间插入了可能的中断点，以带编号的标签表示（例如 ⟨13⟩），这使得该问题成为针对大语言模型的多选题。我们仅在达到 min words 后才开始插入这些带编号的标签，以确保每页至少包含 min words 个词。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

Pagination Prompt:

You are given a passage that is taken from a larger text (article, book, ...) and some numbered labels between the paragraphs in the passage.  Numbered labels are in angle brackets. For example, if the label number is 19, it shows as ⟨19⟩ in text.  Please choose a label where it is natural to break reading.

The label can be a scene transition, the end of a dialogue, the end of an argument, a narrative transition, etc.  Please answer with the break point label and explain.  

For example, if ⟨57⟩ is a good point to break, answer with “Break point: ⟨57⟩\n Because ...”  

Passage: 
{...} 
{PARAGRAPH 5 TEXT}
⟨5⟩
{PARAGRAPH 6 TEXT} 
⟨6⟩
{PARAGRAPH 7 TEXT}
{...}

1
2
3
4
5
6
7
8
9
10
11
12
13
14

你得到了一段文本，这段文本是从更大的文本（文章、书籍等）中提取的，并且在段落之间有一些带编号的标签。带编号的标签用尖括号表示。例如，如果标签编号是19，则在文本中显示为⟨19⟩。请你选择一个标签，在那里自然地中断阅读。

标签可以是场景转换、对话结束、论点结束、叙事转换等。请回答中断点标签并解释。

例如，如果⟨57⟩是一个很好的中断点，请回答“中断点：⟨57⟩\n 因为...”

段落：
{...}
{段落5文本}
⟨5⟩
{段落6文本}
⟨6⟩
{段落7文本}
{...}

记忆概括 Memory Gisting

对于每一页，我们提示大型语言模型将确切内容缩短为一个摘要或要点，如下所示。

1
2
3
4
5
6
7
8

Gisting Prompt:

Please shorten the following passage.

Just give me a shortened version. DO NOT explain your reason.

Passage:
{PAGE TEXT}

1
2
3
4
5
6

请缩短以下段落。

只给我一个简化版本。不要解释你的理由。

段落：
{PAGE TEXT}

随后，在每个摘要前添加一个页面标签（例如“⟨第2页⟩\n{摘要内容}”），以对其进行上下文标注（说明摘要来源），然后将所有摘要连接起来。这样就得到了摘要记忆。我们在提示中使用“缩短”一词来生成这些摘要，因为它有助于保持叙述流程的自然性，使连接后的结果更流畅。在我们的实验中，使用“总结”一词则倾向于生成结构化的摘要。

原始页面大小是决定摘要压缩程度的关键因素。假设我们将最小文本单位视为一个段落。直观上，一个段落与其相邻段落之间可能存在一定的互信息。因此，我们组合的文本块越大，可以去除的重复信息就越多。经验上，使用大语言模型压缩更大的文本块也往往会去除更多细节，这可能影响性能。我们通过调整分页中的最小字数和最大字数来控制页面大小。

这种权衡在4.4节中进行了研究，如下：

压缩权衡表6展示了随着页面尺寸增大，压缩率提高的经验结果。随着压缩率的降低，摘要对于直接回答问题更有用。然而，对于使用查找功能的ReadAgent，当初始摘要压缩率过高时，准确性会受到影响。

文章中各项任务使用的页面大小如下：

交互式查找与应答 Interactive Look-Up and Response

针对给定的长文档任务，我们希望 ReadAgent 在利用主旨记忆的基础上，进一步执行检索操作，从原文中查找相关细节。由于主旨记忆已通过页码完成上下文关联，我们只需对大语言模型进行提示，使其根据具体任务给出希望检索并重新阅读的页码。下文将讨论两种检索策略：并行一次性检索所有目标页面（ReadAgent‑P） 与串行逐次检索单页（ReadAgent‑S）。

ReadAgent-P（并行检索）

如下方所示的问答任务提示示例，我们通常会设定模型可检索的最大页面数量，同时要求模型尽可能少地选取页面，以避免不必要的计算开销与干扰信息。以下提示展示了并行检索的实现方式：模型仅需接收一次提示，即可同时请求多个页面。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

The following text is what you remember from reading
an article and a multiple choice question related to it.

You may read 1 to 5 page(s) of the article again to refresh
your memory to prepare yourself for the question.
Please respond with which page(s) you would like to read.

For example, if you only need to read Page 8, respond
with “I want to look up Page [8] to ...”; if you would like
to read Page 7 and 12, respond with “I want to look up
Page [7, 12] to ...”; if you would like to read Page 2, 3, 7,
15 and 18, respond with “I want to look up Page [2, 3, 7,
15, 18] to ...”.

DO NOT select more pages if you don’t need to.

You don’t need to answer the question yet.

Text:
{GIST MEMORY}
Question:
{QUESTION}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

以下文本是你阅读一篇文章后记住的内容，以及一道与之相关的选择题。你可以重新阅读这篇文章的 1 至 5 页内容来唤醒记忆，以便作答。请回复你想要重新阅读的页码。

示例：
若只需阅读第 8 页，请回复：“I want to look up Page [8] to ...”

若需阅读第 7 页和第 12 页，请回复：“I want to look up Page [7, 12] to ...”

若需阅读第 2、3、7、15、18 页，请回复：“I want to look up Page [2, 3, 7, 15, 18] to ...”

非必要不要选择多余页面。你暂时无需回答问题。

文本：
{GIST MEMORY}
问题：
{QUESTION}

被选中的原始页面会替换记忆中对应位置的主旨内容，同时保留整体的叙事逻辑。随后我们将任务与更新后的记忆再次输入大模型，提示其完成任务（示例提示词见附录 F）。

ReadAgent-S（串行检索）

我们还研究了串行检索策略：模型每次只请求一页，最多可检索设定的最大页面数。在串行检索中，模型在决定下一页要展开的内容前，能够先看到已经展开的页面。这让模型比并行检索获得更多信息，因此在部分场景中表现可能更优。但与模型的交互次数大幅增加会提升计算成本，所以串行检索仅适用于能带来明显收益的任务。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

The following text is what you remember from reading
a meeting transcript, followed by a question about the
transcript.

You may read multiple pages of the transcript again to
refresh your memory and prepare to answer the question.

Each page that you re-read can significantly improve your
chance of answering the question correctly.

Please specify a SINGLE page you would like to read
again or say ”STOP”.

To read a page again, respond with “Page $PAGE NUM”,
replacing $PAGE NUM with the target page number.

You can only specify a SINGLE page in your response at
this time.

To stop, simply say “STOP”. DO NOT answer the ques-
tion in your response.

Text:
{GISTS WITH IN-LINE EXPANDED PAGES}

Pages re-read already (DO NOT ask to read them again):
{LIST OF PAGE NUMBERS ALREADY READ}

Question:
{QUESTION}

Specify a SINGLE page to read again, or say STOP:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

以下是你阅读一份会议记录后记住的内容，随后是一道与该记录相关的问题。

你可以重新阅读这份记录中的多页内容，以唤醒记忆并准备回答问题。

你重新阅读的每一页，都能显著提升你正确回答问题的概率。

请指定一页你想要重新阅读的内容，或者回复STOP。

若要重新阅读某一页，请以格式 Page 页码 回复，将 $PAGE NUM 替换为目标页码。

你每次只能指定一页。若要停止检索，直接回复 STOP。请勿在回复中回答问题。

记忆内容：
{GISTS WITH IN-LINE EXPANDED PAGES}

已重读页面（请勿重复请求阅读）：
{LIST OF PAGE NUMBERS ALREADY READ}

问题：
{QUESTION}

请指定一页重新阅读，或回复 STOP：

计算代价权衡与可扩展性 Computational Trade-offs and Scalability

篇章分段、主旨压缩与交互式检索都需要迭代推理。正如后文所示，其额外开销受一个较小系数的线性约束，这使得本方法能够随输入长度良好扩展。

分段：理论上，大语言模型可单次通读文档并直接完成分段，因此模型必须处理的最小词量等于文档长度。本文的分段算法将文档切分为不超过最大词数（max_words）的块，并保证每一步至少处理最小词数（min_words）。因此，最大词数与最小词数的比值，给出了模型使用该算法所需处理文档词数的倍数上限。

主旨压缩：主旨压缩需要对原始输入再做一次完整遍历，因为每一页均独立压缩。

检索：并行检索基于主旨而非全文，因此处理长度远短于原始输入的一次遍历。串行检索的每一步与并行检索类似，总开销受允许的最大检索次数限制。

作答：最终的任务作答环节与并行检索的计算量相近。当然，提示词模板会带来少量额外开销。

另一方面，主旨生成是一次性开销，而检索与作答环节主要处理远短于原文的主旨。当同一上下文被用于多个任务时，这部分一次性开销可被均摊。因此在这类场景下，ReadAgent能够减少模型需处理的总token数。

具体而言，直接基于QuALITY开发集原文（230篇文章、2086个问题）作答时，模型需处理8,708,434个词；而使用ReadAgent：

• 单页检索：6,499,856个词（节省25.4%）
• 最多2页检索：6,933,357个词（节省20.4%）
• 最多5页检索：7,503,084个词（节省13.8%）

可以预期，压缩率越高，节省的计算量越显著。

ReadAgent 的变体 ReadAgent Variants

在附录 G 中，我们讨论了ReadAgent 的多种变体，这些变体可适用于不同的问题场景，包括在阅读长文档之前就已知晓目标任务的情况。在附录 E 中，我们介绍了如何将 ReadAgent 适配应用于网页导航场景。

G.1 无条件 / 有条件 ReadAgent

在处理长文本时，用户有可能提前知道需要完成什么任务。这种情况下，我们可以在主旨生成环节的提示词中加入任务描述。这样一来，大语言模型就能更好地过滤掉与任务无关的信息，从而提升效率、减少干扰。这种方法被称为条件式 ReadAgent。

但更常见的情况是：生成主旨时并不知道具体任务，或者这些主旨需要用于多个不同任务（比如回答关于同一文本的多个问题）。因此，在主旨生成阶段不加入任务信息，模型可以生成通用性更强的主旨，代价是压缩率降低、干扰信息增多。这种设置被称为无条件式 ReadAgent。

本文仅对无条件式进行了实验验证，但我们认为在某些场景下，条件式会是更优选择。

G.2 特定领域专用 ReadAgent

与附录 G.1 相关，当将 ReadAgent 应用于特定领域时，提供领域专属指令往往会很有帮助。例如，若要使用 ReadAgent 理解程序库，可以向大语言模型给出更具体的指令，让其从每个文件中提取代码用途、功能、关键函数或类的签名等摘要信息作为主旨。

G.3 迭代主旨压缩（Iterative Gisting）

对于非常长的事件历史（例如一段对话），我们可以考虑通过迭代式主旨压缩对更早的记忆进行进一步压缩，从而支持更长的上下文，这与人类对久远记忆会变得模糊的特点相似。尽管这不在本文的研究范围内，但它对于智能助手等应用场景可能十分有用 —— 在这些场景中，随着用户与智能体持续交互，上下文长度会随时间无限增长。

实验结果

QuALITY

Quality: Question answering with long input texts, yes!

QuALITY 是一个四选项多选题问答评测任务，其文本数据来源于多个不同领域。该任务使用准确率作为评估指标，随机猜测的正确率为 25%。

NarrativeQA

The NarrativeQA Reading Comprehension Challenge

NarrativeQA是我们选用的三个阅读理解数据集中平均上下文长度最长的数据集。该数据集分为书籍（古登堡）和电影剧本两部分。其中，古登堡测试集平均长度为 70619 词，最长达 343910 词；电影剧本测试集平均长度为 29963 词。

QMSum

QMSum: A New Benchmark for Query-based Multi-domain Meeting Summarization

SCROLLS: Standardized CompaRison Over Long Language Sequences

QMSum 由各类主题的会议记录以及对应的问题或指令构成。我们使用了由 SCROLLS（Shaham 等人，2022）提供的拼接版 QMSum 数据集。这些会议记录通常篇幅较长，长度在 1000 到 26300 词之间，平均约为 10000 词。图 5 展示了 QMSum 训练集的词数分布直方图。该任务的答案为自由文本格式，因此标准评估指标是 ROUGE F 值。

MemoryBank 是一个围绕三个核心支柱构建的统一机制：

（1）作为主要数据存储库的记忆存储（memory storage），

（2）用于上下文相关记忆召回的记忆检索器（memory retriever），

（3）受 Hermann Ebbinghaus 遗忘曲线理论启发的记忆更新器（memory updater），该理论是关于记忆保持与遗忘的经典心理学原理。

记忆存储 Memory Storage

记忆存储作为 MemoryBank 的“仓库”，是一个强大的数据存储库，包含精细组织的信息集合。如图 1 所示，它存储每日对话记录、过去事件的总结以及不断演化的用户人格评估，从而构建出一个动态且多层次的记忆结构。

深度记忆存储 In-Depth Memory Storage

MemoryBank 的存储系统通过以详细的时间顺序记录多轮对话，捕捉 AI 与用户交互的丰富性。每一段对话都带有时间戳进行存储，形成有序的历史叙述。这种详细记录不仅有助于精确的记忆检索，也为后续的记忆更新提供支持，构成完整的对话历史索引。

分层事件总结 Hierarchical Event Summary

MemoryBank 不仅仅停留在细节记录层面，还模拟人类记忆的特性，对信息进行抽象和提炼。它将冗长的对话压缩为每日事件摘要，再进一步整合为全局摘要，从而形成分层记忆结构，使系统能够从宏观角度理解历史交互与关键事件。具体而言，我们将过去的每日对话或事件作为输入，通过如下提示让 LLM 进行总结：

1
2
3

Summarize the events and key information in the content [dialog/events]

概述内容[对话/事件]中的情节和关键信息

动态人格理解 Dynamic Personality Understanding

MemoryBank 关注用户人格的建模。它在长期交互过程中持续评估并更新用户特征，生成每日人格洞察，并进一步整合为全局人格认知。这种多层结构使 AI 能够学习、适应并针对不同用户特征进行个性化响应，从而提升用户体验。具体而言，我们使用如下提示:

1
2
3

Based on the following dialogue, please summarize the user’s personality traits and emotions.[dialog]”

请根据以下对话，概括该用户的性格特征和情绪。[对话]”

1
2
3

The following are the user’s exhibited personality traits and emotions throughout multiple days. Please provide a highly concise and general summary of the user’s personality[daily Personalities]。

以下是用户在数天内表现出的性格特征和情绪。请对用户的性格进行高度简洁且概括性的总结[每日性格]。

记忆检索 Memory Retrieval

基于稳健的记忆存储结构，MemoryBank 的记忆检索机制类似于知识检索任务。我们采用类似于 Dense Passage Retrieval（Karpukhin et al., 2020）的双塔密集检索模型。在该框架中，每一轮对话及事件摘要都被视为一个记忆单元 m，并通过编码器模型 E(·) 预编码为向量表示 hm。由此，整个记忆集合 M 被表示为：
M = {h₀ᵐ, h₁ᵐ, … , h|M|ᵐ}。

这些向量通过 FAISS 进行索引，以实现高效检索。同时，当前对话上下文 c 也通过同一编码器 E(·) 编码为 hc，作为查询向量，在 M 中检索最相关的记忆。在实际应用中，编码器 E(·) 可以替换为任意合适模型。

记忆更新机制 Memory Updating Mechanism

在持久化记忆存储与检索机制的基础上，LLM 的记忆能力可以显著增强。然而，在需要更具人类特征记忆行为的场景（如 AI 陪伴、虚拟 IP 等）中，引入记忆更新机制是必要的。例如，对长期未被访问且重要性较低的信息进行遗忘，可以使 AI 更加自然。

该机制受到 Ebbinghaus Forgetting Curve 启发，并遵循以下基本规律：

• 遗忘速率（Rate of Forgetting）：记忆保持随时间下降，如果不复习，信息会迅速遗忘。
• 时间与记忆衰减（Time and Memory Decay）：遗忘曲线初期陡峭，随后趋缓。
• 间隔效应（Spacing Effect）：重复学习可以减缓遗忘，使信息更容易被再次掌握。

（注：虽然该理论还包括过度学习与材料意义性等因素，但本文仅建模上述三条原则。）

遗忘曲线可表示为指数衰减模型：

$$
R = e^{(−t / S)}，
$$

其中 R 表示记忆保留率，t 为学习后经过的时间，S 为记忆强度（受学习深度与重复次数影响）。为简化模型，我们将 S 设为离散值，并在首次出现时初始化为 1。当某一记忆被再次调用时，S 增加 1，同时 t 重置为 0，从而降低其被遗忘的概率。

需要注意的是，这是一种探索性且高度简化的建模方式。现实中的记忆过程更加复杂，并受到多种因素影响，不同个体与不同信息类型的遗忘曲线也会有所不同。

瞎逼逼

这篇文章最精彩的是用 Zettelkasten（卡片盒笔记法） 这个故事包装了一个由提示驱动的 agentic memory system for LLM agents（这里有点绕，就是这个记忆系统本身就是智能体型的，然后这个记忆系统还是专门设计给智能体用的），公式很清晰简洁（主要是我这种小白也能看懂），提示词设计也很有意思，尤其是那个笔记链接的提示词，感觉很有启发性，值得好好学习一下。

摘要

While large language model (LLM) agents can effectively use external tools for complex real-world tasks, they require memory systems to leverage historical experiences. Current memory systems enable basic storage and retrieval but lack sophisticated memory organization, despite recent attempts to incorporate graph databases. Moreover, these systems’ fixed operations and structures limit their adaptability across diverse tasks. To address this limitation, this paper proposes a novel agentic memory system for LLM agents that can dynamically organize memories in an agentic way. Following the basic principles of the Zettelkasten method, we designed our memory system to create interconnected knowledge networks through dynamic indexing and linking. When a new memory is added, we generate a comprehensive note containing multiple structured attributes, including contextual descriptions, keywords, and tags. The system then analyzes historical memories to identify relevant connections, establishing links where meaningful similarities exist. Additionally, this process enables memory evolution – as new memories are integrated, they can trigger updates to the contextual representations and attributes of existing historical memories, allowing the memory network to continuously refine its understanding. Our approach combines the structured organization principles of Zettelkasten with the flexibility of agent-driven decision making, allowing for more adaptive and context-aware memory management. Empirical experiments on six foundation models show superior improvement against existing SOTA baselines.

虽然大型语言模型（LLM）智能体能够有效利用外部工具来完成复杂的现实任务，但它们仍然需要 记忆系统 来利用历史经验。现有的记忆系统虽然能够实现基本的 存储与检索 功能，但在记忆组织方面仍然较为简单，尽管近期已有一些尝试将图数据库引入其中。此外，这些系统通常依赖 固定的操作方式和结构设计，这限制了它们在不同任务场景中的适应能力。
为了解决这一问题，本文提出了一种新的 面向 LLM 智能体的 agentic 记忆系统，该系统能够以 智能体驱动（agentic）的方式动态组织记忆。借鉴 Zettelkasten（卡片盒笔记法） 的基本思想，我们设计了一种记忆系统，通过 动态索引与链接机制 构建相互连接的知识网络。
当新的记忆被加入时，系统会生成一条包含多种结构化属性的完整笔记，例如 上下文描述、关键词以及标签。随后，系统会分析历史记忆以识别相关连接，并在存在有意义相似性的情况下建立记忆之间的链接。此外，这一过程还 支持记忆演化（memory evolution）：当新的记忆被整合进系统时，它们可能会触发对已有历史记忆的 上下文表示和属性进行更新，从而使整个记忆网络能够持续优化其理解。
我们的方法结合了 Zettelkasten 的结构化知识组织原则 与 智能体驱动决策的灵活性，从而实现更加 自适应且具备上下文感知能力的记忆管理机制。在六种基础模型上的实证实验表明，该方法相较于当前 最先进（SOTA）的基线方法 取得了显著性能提升。

方法

生成笔记 Note Construction

记忆 $M$ 由多个笔记 Note $m_i$ 组成，每个记忆单元由多个属性组成的结构化表示，包含以下元素：

$$
m_i = {c_i, t_i, K_i, G_i, X_i, e_i, L_i}
$$

笔记构建过程使用精心设计提示模板 $P_{s1}$ 提示 LLM，输入为原始交互内容 $c_i$、时间戳 $t_i$ 和提示模板 $P_{s1}$，LLM 输出为结构化记忆单元的属性（$K_i, G_i, X_i$）：

$$
K_i,, G_i,, X_i \leftarrow \mathrm{LLM}(c_i \parallel t_i \parallel P_{s1})
$$

遵循 Zettelkasten 的原子性原则，每条笔记仅捕获一个自包含的知识单元。

为实现高效检索与关联，通过 文本编码器（嵌入模型） 计算一条稠密向量表征，该表征封装了笔记所有文本成分。

$$
e_i = f_{\text{enc}}\ \left[ \operatorname{concat}(c_i, K_i, G_i, X_i) \right]
$$

笔记链接 Link Generation

A-Mem 系统实现了一个自主链接生成机制，使新的记忆笔记能够在没有预定义规则的情况下形成有意义的连接。

当构建的记忆笔记 $m_n$ 被添加到系统中时，我们首先利用其语义嵌入进行基于相似性的检索。对于每个现有的记忆笔记 $m_j \in M$，我们计算一个相似性得分（其实就是余弦相似度Cosine Similarity）：

$$
s_{n,j} = \frac{e_n \cdot e_j}{\lVert e_n \rVert \lVert e_j \rVert}
$$

系统识别出最相关的 top-k 个记忆笔记：

$$
M_{near}^{n} = \lbrace m_j | rank(s_{n,j}) \le k,; m_j \in M \rbrace
$$

基于这些候选的最近记忆，我们提示大语言模型（LLM）分析它们之间可能存在的潜在共同属性相关的联系。形式化地，记忆 $m_n$ 的更新链接集如下：

$$
L_i \leftarrow \text{LLM}(m_n || M_{near}^n || P_{s2})
$$

基于这些候选最近记忆，我们提示大语言模型（LLM）分析它们可能共有的潜在属性。正式地，记忆 $m_n$ 的更新链接集如下：每个生成的链接 $l_i$ 的结构为：$L_i = {m_i, \ldots, m_k}$。

通过将基于嵌入的检索作为初始过滤器，我们实现了高效的可扩展性，同时保持了语义相关性。A-MEM 能够快速识别大型记忆集合中的潜在连接，而无需进行详尽比较。更重要的是，由 LLM 驱动的解析能够实现对关系的细致理解，超越简单的相似性度量。该语言模型可以识别微妙的模式、因果关系和概念性关联，而这些可能无法仅从嵌入相似性中显现。我们实现了 Zettelkasten 原则中的灵活链接机制，同时借助现代语言模型。由此形成的网络自然地从记忆内容和上下文中涌现，从而实现自然的知识组织。（用语义嵌入先进行初筛选，然后提示大模型来进行最终的链接生成）

记忆演化 Memory Evolution

在为新记忆建立链接之后，A-MEM 会根据其文本信息和与新记忆的关联关系来演化被检索到的记忆。

对于最近邻居集合 $\mathcal{M}_{\text{near}}^{n}$ 中的每个记忆 $m_j$，系统会决定是否需要更新其上下文、关键词和标签。该演化过程可以形式化地表示为：

$$
m_j^{*} \leftarrow \text{LLM}(m_n || (M_{near}^n - m_j) || m_j || P_{s3})
$$

经过演化的记忆 $m_j^{*}$ 随后取代集合 $\mathcal{M}$ 中原有的记忆 $m_j$。这种演化方法能够实现持续更新和新连接的建立，模仿人类学习过程。随着系统随时间处理更多记忆，它会发展出越来越复杂的知识结构，在多个记忆中发现更高阶的模式和概念。这为自主记忆学习奠定基础，使知识的组织通过新体验与已有记忆的持续互动而日益丰富。

检索 Retrieve Relative Memory

在每轮交互中，我们的 A-MEM 执行上下文感知的记忆检索，为智能体提供相关的历史信息。给定当前交互中的查询文本 $q$，我们首先使用与记忆笔记相同的文本编码器计算其密集向量表示：

$$
e_q = f_{\mathrm{enc}}(q)
$$

系统随后使用余弦相似度计算查询嵌入与 $\mathcal{M}$ 中所有现有记忆笔记之间的相似度分数：

$$
s_{q,i} = \frac{e_q \cdot e_i}{\lVert e_q \rVert \lVert e_i \rVert},
\quad \text{where } e_i \in m_i,\ \forall m_i \in \mathcal{M}
$$

然后我们从历史记忆存储中检索最相关的 $k$ 条记忆，以构建一个语境恰当的提示。

$$
M_{retrieved} = \lbrace m_i | rank(s_{q,i}) \le k, m_i \in M \rbrace
$$

这些检索到的记忆提供了相关的历史背景，有助于智能体更好地理解和响应当前的交互。检索到的上下文通过将当前交互与记忆系统中存储的相关过去经验联系起来，丰富了智能体的推理过程。

实验

实验结果

LoCoMo 数据集

DialSim 数据集

消融实验

“w/o”表示特定模块被移除的实验设置。LG和ME分别代表链路生成模块和记忆演化模块。

超参数敏感性分析

关于检索时候取 Top-K 的值

这里是不是有点奇怪，为什么 GPT-4o-mini 和 GPT-4o 的 Top-K 都是 40，而其他模型的 Top-K 都是 10？
理论上 GPT-4o-mini 和 GPT-4o 的性能会更强，所以应该需要更加少的Top-K就可以达到相似的性能；还是说他性能强，增大Top-K还可以进一步取得更加好的效果，直到40才收敛。

基线方法 Baselines

• LoCoMo：不使用记忆机制，直接将全部历史对话作为提示输入模型进行问答。

• ReadAgent：通过“分页 → 记忆摘要 → 交互检索”三阶段流程处理长上下文文档。

• MemoryBank：基于遗忘曲线动态更新记忆，并通过长期交互构建用户画像。

• MemGPT：借鉴操作系统内存层级，通过“主上下文 + 外部上下文”管理长期信息.

数据集 Dataset

LoCoMo 数据集

Adyasha Maharana, Dong-Ho Lee, Sergey Tulyakov, Mohit Bansal, Francesco Barbieri, and Yuwei Fang. Evaluating very long-term conversational memory of llm agents. arXiv preprint arXiv:2402.17753, 2024.

LoCoMo 是一个用于评估长对话理解能力的问答数据集，相比传统对话数据集，其对话长度显著更长。以往数据集通常包含约 1K tokens、4–5 个会话的对话，而 LoCoMo 的对话平均长度达到 约 9K tokens，最多可覆盖 35 个会话。因此，该数据集特别适合评估模型在长程依赖建模和跨会话一致性保持方面的能力。

LoCoMo 的问题类型设计较为多样，用于全面评估模型对长对话内容的理解能力，主要包括：

• Single-hop questions：可在单个会话中直接找到答案的问题

• Multi-hop questions：需要跨多个会话整合信息才能回答的问题

• Temporal reasoning questions：测试模型对时间相关信息的理解能力

• Open-domain knowledge questions：需要结合对话上下文和外部知识进行回答的问题

• Adversarial questions：用于测试模型识别不可回答问题的能力

LoCoMo 数据集包含 7,512 个问答对，覆盖上述不同类型的问题。

DialSim 数据集

Jiho Kim, Woosog Chay, Hyeonji Hwang, Daeun Kyung, Hyunseung Chung, Eunbyeol Cho, Yohan Jo, and Edward Choi. Dialsim: A real-time simulator for evaluating long-term multi-party dialogue understanding of conversational agents. arXiv preprint arXiv:2406.13144, 2024.

DialSim 是一个用于评估长期对话记忆能力的问答数据集，来源于长期多角色对话场景。该数据集基于热门电视剧（如 Friends、The Big Bang Theory 和 The Office）构建，覆盖 约五年的剧情内容。

DialSim 数据集包含 1,300 个对话会话（sessions），约 350,000 个 tokens。每个会话包含 1000+ 个问题，数据集中的问题主要来源于：

• 粉丝问答网站中的精炼问题
• 基于时间知识图谱生成的复杂问题

由于对话跨度长、问题复杂，该数据集特别适合用于评估模型在长期对话记忆、跨时间推理以及多角色对话理解方面的能力。

模型 foundation models

• Qwen-2.5 1.5B/3B
• Llama-3.2 1B/3B
• DeepSeek-R1-32B
• GPT-4o-mini
• Claude 3.0 Haiku
• Claude 3.5 Haiku
• 文本嵌入 all-minilm-l6-v2

Prompt 设计

生成笔记 附录B.1

提示$ P_{s1}$
原文：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

Generate a structured analysis of the following content by:
1. Identifying the most salient keywords (focus on nouns, verbs, and key concepts)
2. Extracting core themes and contextual elements
3. Creating relevant categorical tags

Format the response as a JSON object:

{
  "keywords": [
    // several specific, distinct keywords that capture key concepts and terminology
    // Order from most to least important
    // Don’t include keywords that are the name of the speaker or time
    // At least three keywords, but don’t be too redundant.
  ],
  "context":
    // one sentence summarizing:
    // - Main topic/domain
    // - Key arguments/points
    // - Intended audience/purpose
  ,
  "tags": [
    // several broad categories/themes for classification
    // Include domain, format, and type tags
    // At least three tags, but don’t be too redundant.
  ]
}

Content for analysis:

中文翻译：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

请对以下内容进行结构化分析，要求：

1. 识别最重要的关键词
- 重点关注名词、动词以及关键概念。

2. 提取核心主题与上下文要素

3. 生成相关的分类标签

请将输出组织为如下 JSON 对象：

{
  "keywords": [
    // 若干具体且彼此区分明显的关键词，用于概括核心概念与术语
    // 按重要性从高到低排序
    // 不要包含说话者姓名或时间信息
    // 至少提供 3 个关键词，但避免过度重复
  ],
  "context": "用一句话总结以下内容：主题领域、关键观点以及预期用途或受众",
  "tags": [
    // 若干较宽泛的分类标签
    // 应包含领域、内容形式和类型等维度
    // 至少提供 3 个标签，但避免过度重复
  ]
}

待分析内容：

笔记链接 附录B.2

提示$ P_{s2}$

原文：

1
2
3
4
5
6
7
8
9
10
11
12
13
14

You are an AI memory evolution agent responsible for managing and evolving a knowledge base.
Analyze the new memory note according to keywords and context, also with its several nearest neighbor memories.

The new memory:
- context: {context}
- content: {content}
- keywords: {keywords}

The nearest neighbor memories:
- {nearest_neighbors_memories}

Based on this information, determine:
Should this memory be evolved?
Consider its relationships with other memories.

中文翻译：

1
2
3
4
5
6
7
8
9
10
11
12
13
14

你是一个 AI 记忆演化智能体，负责管理并持续演化一个知识库。
请结合关键词、上下文以及若干条最近邻记忆，对新记忆笔记进行分析。

新记忆信息：
- context: {context}
- content: {content}
- keywords: {keywords}

最近邻记忆：
- {nearest_neighbors_memories}

请基于以上信息判断：
这条记忆是否应该被演化（更新）？
请重点考虑它与其他记忆之间的关系。

记忆演化 附录B.3

提示$ P_{s3}$

原文：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

You are an AI memory evolution agent responsible for managing and evolving a knowledge base.
Analyze the new memory note according to keywords and context, along with several nearest neighbor memories.
Make decisions about its evolution.

The new memory:
- context: {context}
- content: {content}
- keywords: {keywords}

The nearest neighbor memories:
- {nearest_neighbors_memories}

Based on this information, determine:
1. What specific actions should be taken (strengthen, update_neighbor)?
1.1 If choosing to strengthen, which memory should it connect to? Can you provide updated tags for this memory?
1.2 If choosing to update_neighbor, you may update the context and tags of these memories based on improved understanding.
Tags should reflect the content characteristics of these memories for future retrieval and categorization.

All information should be returned in list order:
[[new_memory], [neighbor_memory_1], ... [neighbor_memory_n]]

These actions can be combined.

Return your decision in JSON format with the following structure:
{
  "should_evolve": true/false,
  "actions": ["strengthen", "merge", "prune"],
  "suggested_connections": ["neighbor_memory_ids"],
  "tags_to_update": ["tag_1", ..., "tag_n"],
  "new_context_neighborhood": ["new context", ..., "new context"],
  "new_tags_neighborhood": [["tag_1", ..., "tag_n"], ..., ["tag_1", ..., "tag_n"]]
}

中文翻译：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

你是一个 AI 记忆演化智能体，负责管理并持续演化一个知识库。
请结合关键词、上下文以及若干条最近邻记忆，对新记忆笔记进行分析，并给出其演化决策。

新记忆信息：
- context: {context}
- content: {content}
- keywords: {keywords}

最近邻记忆：
- {nearest_neighbors_memories}

请基于以上信息判断：
1. 应采取哪些具体动作（strengthen、update_neighbor）？
1.1 如果选择 strengthen，应连接到哪条记忆？并给出该记忆更新后的 tags。
1.2 如果选择 update_neighbor，可基于新的理解更新邻居记忆的 context 和 tags。
这些 tags 应体现记忆内容特征，以便后续检索和分类。

所有信息按以下列表顺序返回：
[[new_memory], [neighbor_memory_1], ... [neighbor_memory_n]]

动作可以组合执行。

请按以下 JSON 结构输出：
{
  "should_evolve": true/false,
  "actions": ["strengthen", "merge", "prune"],
  "suggested_connections": ["neighbor_memory_ids"],
  "tags_to_update": ["tag_1", ..., "tag_n"],
  "new_context_neighborhood": ["new context", ..., "new context"],
  "new_tags_neighborhood": [["tag_1", ..., "tag_n"], ..., ["tag_1", ..., "tag_n"]]
}

一个具体使用记忆的例子

原文：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

Example:

Question 686: Which hobby did Dave pick up in October 2023?
Prediction: photography
Reference: photography

talk start time: 10:54 am on 17 November, 2023
memory content:
Speaker Dave says: Hey Calvin, long time no talk! A lot has happened. I've taken up photography and it's been great, been taking pics of the scenery around here which is really cool.
memory context:
The main topic is the speaker's new hobby of photography, highlighting their enjoyment of capturing local scenery, aimed at engaging a friend in conversation about personal experiences.
memory keywords: ['photography', 'scenery', 'conversation', 'experience', 'hobby']
memory tags: ['hobby', 'photography', 'personal development', 'conversation', 'leisure']

talk start time: 6:38 pm on 21 July, 2023
memory content:
Speaker Calvin says: Thanks, Dave! It feels great having my own space to work in. I've been experimenting with different genres lately, pushing myself out of my comfort zone. Adding electronic elements to my songs gives them a fresh vibe. It's been an exciting process of self-discovery and growth!
memory context:
The speaker discusses their creative process in music, highlighting experimentation with genres and the incorporation of electronic elements for personal growth and artistic evolution.
memory keywords: ['space', 'experimentation', 'genres', 'electronic', 'self-discovery', 'growth']
memory tags: ['music', 'creativity', 'self-improvement', 'artistic expression']

中文翻译：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

示例：

问题 686：Dave 在 2023 年 10 月开始了哪项爱好？
预测：photography
参考答案：photography

对话开始时间：2023 年 11 月 17 日 上午 10:54
记忆内容：
说话人 Dave：Hey Calvin，好久没聊了！最近发生了很多事。我开始玩摄影了，感觉很棒。我一直在拍这附近的风景，真的很酷。
记忆上下文：
这条记忆的主题是说话人开始了摄影这一新爱好，强调了其对拍摄本地风景的兴趣，意图是在与朋友交流中分享个人近况与体验。
记忆关键词：['photography', 'scenery', 'conversation', 'experience', 'hobby']
记忆标签：['hobby', 'photography', 'personal development', 'conversation', 'leisure']

对话开始时间：2023 年 7 月 21 日 下午 6:38
记忆内容：
说话人 Calvin：谢谢你，Dave！有了自己的创作空间感觉太好了。最近我一直在尝试不同的音乐风格，逼自己走出舒适区。给歌曲加入电子元素让作品更有新鲜感。这是一个令人兴奋的自我探索与成长过程！
记忆上下文：
说话人讨论了其音乐创作过程，重点在于风格实验以及电子元素的引入，并体现了个人成长和艺术演进。
记忆关键词：['space', 'experimentation', 'genres', 'electronic', 'self-discovery', 'growth']
记忆标签：['music', 'creativity', 'self-improvement', 'artistic expression']