Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents

本文探讨了连接主义和符号人工智能（AI）的融合，从历史上的争论到当代的进展。传统上被认为是不同的范式，连接主义AI侧重于神经网络，而符号AI则强调符号表示和逻辑。最近大型语言模型（LLM）的进展，如ChatGPT和GPT-4，突显了连接主义体系结构在处理人类语言作为符号形式的潜力。研究认为，利用LLMs进行基于文本的知识建模和表示的LAA体现了这种范式融合。通过将LLMs用于文本知识建模和表示，LAA集成了神经符号AI原则，展示了增强的推理和决策能力。将LAA与神经符号AI主题中的知识图进行比较，突显了LAA在模拟类似人类推理过程、有效扩展大型数据集和利用上下文样本而无需显式重新训练方面的独特优势。研究强调了神经向量符号集成、指令编码和隐式推理等方面的有前途的研究方向，旨在进一步增强LAA的能力。通过探索神经符号AI的进展并提出未来的研究轨迹，本文推动了人工智能技术的理解和发展。

本论文旨在探讨连接主义和符号人工智能的融合，以及如何应用于文本处理任务，以提高推理和决策能力。

本文提出了一种基于大型语言模型的自主代理（LAA）框架，将神经网络和符号表示相结合，实现了更加人类化的推理过程。

本文比较了LAA和知识图谱在神经符号人工智能领域的优缺点，并指出了LAA在处理大规模数据集和利用上下文信息方面的优势。此外，本文提出了一些未来研究方向，如神经-向量-符号集成、指导编码和隐式推理等。

近期相关研究包括《Large-Scale Pretraining for Neural Machine Translation》、《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》等。