KnowledgeNavigator: Leveraging Large Language Models for Enhanced Reasoning over Knowledge Graph

大型语言模型（LLM）凭借其强大的自然语言理解和零-shot能力，在各种下游任务上取得了出色的表现，但LLM仍然受到知识限制的困扰。特别是在需要长时间逻辑链或复杂推理的情况下，LLM的幻觉和知识限制限制了其在问答（QA）中的表现。本文提出了一种新的框架KnowledgeNavigator，通过高效准确地从知识图谱中检索外部知识并将其用作增强LLM推理的关键因素来解决这些挑战。具体而言，KnowledgeNavigator首先挖掘和增强给定问题的潜在约束，以引导推理。然后，它通过在知识图谱上迭代推理，并以LLM和问题为指导，检索和过滤支持回答的外部知识。最后，KnowledgeNavigator将结构化知识构建为对LLM友好的有效提示，以帮助其推理。我们在多个公共KGQA基准上评估了KnowledgeNavigator，实验表明该框架具有很大的有效性和通用性，优于先前的知识图增强LLM方法，并且与完全监督的模型相当。

论文旨在解决LLM在长逻辑链或复杂推理场景下的知识限制和虚构问题，提出了一种从知识图谱中检索外部知识以增强LLM推理能力的框架。

KnowledgeNavigator框架通过挖掘和增强问题的潜在约束来指导推理，然后通过迭代地在知识图谱上进行推理，检索和过滤支持回答的外部知识，并将结构化知识构造成对LLM友好的有效提示以帮助其推理。

论文在多个公共KGQA基准上进行了评估，实验结果表明该框架具有很高的有效性和泛化性，优于以前的知识图谱增强LLM方法，并且与完全监督模型相当。

与此相关的研究包括：《Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings》、《Multi-hop Knowledge Graph Reasoning with Reward Shaping》等。