Chain-of-Knowledge: Integrating Knowledge Reasoning into Large Language Models by Learning from Knowledge Graphs

大型语言模型（LLMs）在各种自然语言处理（NLP）任务中展现出令人印象深刻的熟练程度，这些任务涉及越来越复杂的推理。知识推理是一种主要类型的推理，旨在从现有知识中推导出新的知识。虽然在知识图谱（KGs）的背景下已经得到广泛研究，但在LLMs中的知识推理仍未得到充分探索。在本文中，我们介绍了Chain-of-Knowledge，这是一个全面的知识推理框架，包括数据集构建和模型学习的方法。对于数据集构建，我们通过在KGs上进行规则挖掘来创建KnowReason。对于模型学习，我们观察到由于简单训练引起的规则过拟合。因此，我们增强了CoK，加入了一种试错机制，模拟了人类内部知识探索的过程。我们在KnowReason上进行了大量实验。我们的结果显示了CoK在LLMs中不仅在知识推理方面的有效性，而且在一般推理基准测试中的有效性。

本论文旨在探索大型语言模型（LLMs）在知识推理方面的应用，提出了Chain-of-Knowledge框架，用于知识推理的数据集构建和模型学习。

Chain-of-Knowledge框架包括数据集构建和模型学习两个方面。数据集构建使用知识图谱上的规则挖掘，模型学习通过试错机制来避免规则过拟合，模拟人类内部知识探索的过程。

论文使用KnowReason数据集对Chain-of-Knowledge框架进行了广泛实验，结果表明该框架不仅可以提高LLMs在知识推理方面的表现，还可以在一般推理基准测试中取得良好的效果。值得注意的是，该论文提出的试错机制可以避免规则过拟合，对于其他知识推理任务的研究也具有借鉴意义。

在知识推理领域，已经有很多相关研究。例如，基于知识图谱的推理、基于逻辑的推理、基于语义的推理等。其中一些相关论文包括《Knowledge Graph Embedding: A Survey of Approaches and Applications》、《A Survey of Automated Reasoning》、《A survey on semantic inference in natural language processing》等。