A Survey on the Memory Mechanism of Large Language Model based Agents

大型语言模型（LLM）的基于代理人近期引起了研究和工业界的广泛关注。与原始LLM相比，基于LLM的代理人具有自我进化能力，这是解决需要长期和复杂代理人-环境交互的现实问题的基础。支持代理人-环境交互的关键组成部分是代理人的记忆。虽然先前的研究提出了许多有前途的记忆机制，但它们分散在不同的论文中，缺乏系统的综述来总结和比较这些工作的整体视角，未能抽象出常见和有效的设计模式，以启发未来的研究。为了弥补这一差距，本文提出了关于LLM-based代理人记忆机制的综合调查。具体而言，我们首先讨论了LLM-based代理人的“什么是”和“为什么需要”记忆。然后，我们系统地回顾了先前研究如何设计和评估记忆模块。此外，我们还介绍了许多代理应用程序，其中记忆模块发挥重要作用。最后，我们分析了现有工作的局限性，并展示了重要的未来方向。为了跟上这一领域的最新进展，我们在\url{https://github.com/nuster1128/LLM_Agent_Memory_Survey}上创建了一个存储库。

本论文旨在系统综述和比较基于大型语言模型的智能代理的记忆机制，以期为未来的研究提供启示。

该论文系统性地总结了先前的研究，提出了大型语言模型智能代理的记忆机制的设计和评估方法，并探讨了记忆模块在智能代理应用中的重要作用。

本论文提供了一个开源的GitHub仓库，包含了最新的研究进展。此外，还介绍了记忆模块在智能代理应用中的重要作用，并分析了现有研究的局限性和未来方向。

最近的相关研究包括：1.《A Survey of Memory in Reinforcement Learning》；2.《Memory-Augmented Reinforcement Learning for Robot Navigation》；3.《Memory-Augmented Monte Carlo Tree Search for General Video Game Playing》等。