Unifying Large Language Models and Knowledge Graphs: A Roadmap

S Pan, L Luo, Y Wang, C Chen, J Wang, X Wu
[Griffith University & Monash University]

大型语言模型和知识图谱统一路线图

  • 动机：大型语言模型(LLM)如ChatGPT和GPT4在自然语言处理和人工智能领域引发了新的浪潮，但它们常常无法捕获和访问事实知识。相比之下，知识图谱(KG)如Wikipedia和Huapu等结构化知识模型能够明确存储丰富的事实知识。因此，将LLM和KG结合起来并同时利用它们的优势是互补的。

  • 方法：提出一个前瞻性的路线图，用于统一LLM和KG。路线图包括三个通用框架：1）KG增强的LLM，将KG在LLM的预训练和推理阶段进行整合，或者用于增强对LLM学习的知识的理解；2）LLM增强的KG，利用LLM进行不同的KG任务，如嵌入、完成、构建、图到文生成和问答；3）协同的LLM+KG，其中LLM和KG扮演等同的角色，并以互利的方式增强LLM和KG的双向推理。

  • 优势：通过将LLM和KG结合，可以充分利用它们各自的优势，克服各自的局限性，为各种下游任务提供指导。

提出了一个前瞻性的路线图，用于统一大型语言模型(LLM)和知识图谱(KG)，通过三个通用框架——KG增强的LLM，LLM增强的KG，以及协同的LLM+KG，实现了LLM和KG的优势互补和双向推理的增强。

https://arxiv.org/abs/2306.08302 

 

 

 


图片

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除