DALK: Dynamic Co-Augmentation of LLMs and KG to answer Alzheimer's Disease Questions with Scientific Literature

最近大型语言模型（LLMs）的进展在各种应用中取得了有希望的表现。然而，整合长尾知识的挑战仍然阻碍了LLMs在专业领域的无缝采用。在本文中，我们介绍了DALK，即LLMs和KG的动态协同增强，以解决这一限制，并展示了它在研究阿尔茨海默病（AD）方面的能力，这是生物医学中的一个专业子领域和全球健康优先事项。通过LLM和KG相互增强的协同框架，我们首先利用LLM构建一个源自AD相关科学文献的不断发展的AD特定知识图谱（KG），然后我们利用一种新颖的自我感知知识检索方法的粗到细的采样方法，从KG中选择适当的知识来增强LLM的推理能力。在我们构建的AD问答（ADQA）基准测试上进行的实验结果强调了DALK的有效性。此外，我们进行了一系列详细的分析，可以为相互增强的KG和LLM的新兴主题提供有价值的见解和指导。我们将在https://github.com/David-Li0406/DALK上发布代码和数据。

本文试图解决LLMs在专业领域应用中缺乏长尾知识的问题，提出了DALK框架来解决这个问题，并以阿尔茨海默病为例进行了实验验证。

DALK框架通过相互增强的LLMs和知识图谱（KG）来解决长尾知识不足的问题。利用LLMs构建一个专门的AD知识图谱，然后使用一种新的自我感知知识检索方法，从KG中选择合适的知识来增强LLMs的推理能力。

本文的实验结果表明DALK框架的有效性，并提供了有价值的分析和指导。作者还开源了代码和数据集，为后续研究提供了便利。值得进一步深入研究的是，如何进一步提高DALK框架的效率和性能。

最近在这个领域中，还有一些相关研究，例如《Knowledge Graph-Augmented Language Model for Dialogue Generation》、《Improving Long-Tail Knowledge Grounding in Large Pretrained Language Models》等。