摘要
记忆对于使基于大语言模型(LLM)的代理在长期交互中保持连贯行为至关重要。然而,现有的代理记忆系统存在两个关键缺陷:它们依赖于统一的记忆结构,并未将记忆结构的选择建模为上下文自适应的决策,这限制了其处理异构交互模式的能力,导致性能不佳。本文提出了一种统一的框架FluxMem,使LLM代理能够实现自适应记忆组织。该框架为代理配备了多种互补的记忆结构,并根据交互级特征显式学习在这些结构之间进行选择,使用来自下游响应质量和记忆利用率的离线监督。为了支持稳健的长期记忆演化,我们进一步引入了一个三级记忆层次结构和基于Beta混合模型的概率门控机制,用于分布感知的记忆融合,以替代脆弱的相似性阈值。在两个长期交互基准测试PERSONAMEM和LoCoMo上的实验表明,我们的方法平均分别提升了9.18%和6.14%。
AI 推荐理由
论文聚焦于LLM代理的记忆机制,提出自适应记忆结构框架FluxMem,直接针对记忆组织和选择问题。
论文信息