A-MEM: Agentic Memory for LLM Agents

2025年02月17日
  • 简介
    大型语言模型(LLM)代理能够有效利用外部工具完成复杂的现实任务,但需要记忆系统来利用历史经验。当前的记忆系统虽然可以实现基本的存储和检索功能,但在复杂记忆组织方面仍显不足,尽管最近有尝试引入图数据库。此外,这些系统的固定操作和结构限制了它们在不同任务中的适应性。为了解决这一局限性,本文提出了一种新型的代理记忆系统,该系统可以动态地以代理方式组织记忆。基于Zettelkasten方法的基本原则,我们设计的记忆系统通过动态索引和链接创建相互连接的知识网络。当添加新记忆时,我们会生成一个包含多个结构化属性的综合笔记,包括上下文描述、关键词和标签。然后,系统会分析历史记忆以识别相关联结,在存在有意义相似性的地方建立链接。此外,这一过程还支持记忆的进化——随着新记忆的整合,它们可以触发现有历史记忆的情境表示和属性的更新,从而使记忆网络能够不断优化其理解。我们的方法结合了Zettelkasten的结构化组织原则与代理驱动决策的灵活性,实现了更加适应性和情境感知的记忆管理。在六个基础模型上的实验证明,该方法相比现有的最先进基线有显著提升。评估性能的源代码可在https://github.com/WujiangXu/AgenticMemory获取,而代理记忆系统的源代码则可在https://github.com/agiresearch/A-mem获取。
  • 图表
  • 解决问题
    论文试图解决当前大型语言模型(LLM)代理在处理复杂现实任务时,缺乏有效记忆系统的问题。尽管现有的记忆系统可以实现基本的存储和检索功能,但它们在组织记忆方面不够灵活,难以适应多样化的任务需求。这是一个需要进一步探索和改进的问题。
  • 关键思路
    关键思路是设计一个基于Zettelkasten方法的新型代理记忆系统,该系统能够动态地组织记忆,通过生成包含上下文描述、关键词和标签的综合笔记,并根据历史记忆建立有意义的链接。此外,该系统允许记忆随时间进化,即新记忆的加入可以触发对已有记忆的更新,从而不断优化整个记忆网络的理解。这种结合结构化组织原则与代理驱动决策的方法为更灵活和情境感知的记忆管理提供了新的途径。
  • 其它亮点
    论文的亮点包括:1) 提出了一个创新的记忆系统,利用Zettelkasten方法创建互联的知识网络;2) 实现了记忆的动态索引和链接,支持记忆的持续进化;3) 在六个基础模型上进行了实证实验,结果优于现有最先进水平;4) 开源了评估性能的代码(https://github.com/WujiangXu/AgenticMemory)以及记忆系统的源码(https://github.com/agiresearch/A-mem),便于后续研究和应用开发。
  • 相关研究
    近期在这个领域的相关研究还包括:1) 使用图数据库增强LLM的记忆能力;2) 探索自适应记忆机制以提高跨任务性能;3) 研究记忆检索的有效性及其对下游任务的影响。例如,《Enhancing LLMs with Graph Databases for Better Memory Management》、《Adaptive Memory Mechanisms for Improved Task Adaptation in LLMs》等论文都从不同角度探讨了如何提升LLM的记忆功能。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论