InstructGraph: Boosting Large Language Models via Graph-centric Instruction Tuning and Preference Alignment

本文探讨了当前大型语言模型（LLMs）在参数更新下是否更好地解决图推理和生成任务的问题。我们提出了InstructGraph框架，通过指令调整和偏好对齐，赋予LLMs图推理和生成的能力。具体而言，我们首先提出了一个结构化格式的语言转换器，将所有图形数据统一为一种类似于通用代码的格式，可以简单地表示图形而不需要任何外部的图形特定编码器。此外，引入了一个图形指令调整阶段，以指导LLMs解决图形推理和生成任务。最后，我们确定了图形任务中潜在的幻觉问题，并对负样本进行了采样以进行偏好对齐，其目标是增强模型输出的可靠性。在多个以图形为中心的任务的广泛实验中，InstructGraph可以实现最佳性能，并分别比GPT-4和LLaMA2高出13％和38％以上。

本文旨在探讨如何通过指令调整和偏好对齐，使大型语言模型（LLMs）具备图形推理和生成的能力，以解决图形任务中的幻觉问题。

本文提出了InstructGraph框架，通过结构化格式的语言表示统一所有图形数据，引入图形指令调整阶段来指导LLMs解决图形任务，并通过负样本采样进行偏好对齐，提高模型输出的可靠性。

本文在多个图形任务上进行了广泛的实验，展示了InstructGraph的卓越性能，并且比GPT-4和LLaMA2分别提高了13％和38％以上。此外，本文还介绍了InstructGraph的实验设计、使用的数据集和开源代码。

最近在这个领域中，还有一些相关的研究，例如《GPT-4: Generative Pre-training Transformer 4》和《LLaMA2: Label-aware Multi-modal Attention for Multimodal Understanding and Reasoning》。