Hallucination Detection: Robustly Discerning Reliable Answers in Large Language Models

大型语言模型（LLMs）已被广泛应用于各种自然语言处理任务，包括问答和对话系统。然而，LLMs的一个主要缺点是幻觉问题，即它们生成的内容不忠实或不一致，偏离了输入来源，导致严重后果。在本文中，我们提出了一个名为RelD的强大的鉴别器，以有效地检测LLMs生成的答案中的幻觉。RelD是在构建的RelQA基础上训练的，这是一个双语问答对话数据集，包括LLMs生成的答案和全面的指标集。我们的实验结果表明，所提出的RelD成功地检测了不同LLMs生成的答案中的幻觉。此外，它在区分LLMs生成的答案中的幻觉方面表现良好，无论是在分布内还是在分布外的数据集中。此外，我们还对发生的幻觉类型进行了彻底的分析，并提供了有价值的见解。这项研究对于检测LLMs生成的可靠答案具有重要贡献，并对于减轻未来工作中的幻觉问题具有显著的影响。

解决问题：本论文旨在解决LLMs的幻觉问题，提出了一种名为RelD的鲁棒鉴别器，用于有效检测LLMs生成的幻觉答案。

关键思路：RelD鉴别器是通过在构建的RelQA双语问答对话数据集上训练来实现的，该数据集包括LLMs生成的答案和全面的指标。实验结果表明，RelD成功地检测了多样化的LLMs生成答案中的幻觉，而且在区分LLMs生成答案中的幻觉方面表现良好。

其他亮点：论文还分析了幻觉的类型，并提供了有价值的见解。实验使用了RelQA数据集和多个LLMs，并证明了RelD的有效性。此外，本论文对于解决LLMs幻觉问题具有重要意义。

相关研究：最近的相关研究包括使用对抗训练来减轻LLMs的幻觉问题，以及使用多模态信息来提高LLMs的性能。