A comprehensive taxonomy of hallucinations in Large Language Models

大型语言模型（LLMs）彻底改变了自然语言处理领域，但其“幻觉”问题——即生成看似合理但实际上错误或捏造的内容——仍然是一个关键挑战。本报告提出了一个关于LLM幻觉的全面分类体系，首先给出了正式定义，并建立了一个理论框架，指出在可计算的LLM中，幻觉是不可避免的现象，无论其架构或训练方式如何。报告探讨了若干核心区别，包括内在幻觉（与输入上下文矛盾）与外在幻觉（与训练数据或现实不符），以及真实性（绝对正确性）与可信性（对输入的忠实程度）之间的差异。 报告进一步详细阐述了幻觉的具体表现形式，包括事实性错误、上下文和逻辑不一致、时间错乱、违反伦理规范，以及在代码生成和多模态应用等不同领域中的任务特定幻觉。随后分析了幻觉产生的根本原因，将其归类为数据相关问题、模型相关因素以及提示相关影响。此外，报告还考察了影响幻觉感知的认知与人为因素，综述了用于检测幻觉的评估基准和指标，并概述了在架构设计和系统层面可采取的缓解策略。最后，报告介绍了用于监控LLM发布和性能的网络资源。 本报告强调LLM幻觉具有复杂且多面的特性，并指出鉴于其在理论上不可避免，未来的研究重点应放在强有力的检测手段、缓解措施以及持续的人工监督上，以确保在关键应用场景中实现负责任且可靠的模型部署。

论文试图解决大语言模型（LLM）容易产生“幻觉”（hallucination）的问题，即生成看似合理但与事实、输入上下文或现实不符的内容。这个问题在LLM的应用中具有重大影响，尤其是在需要高准确性和可靠性的场景中。这是一个重要的问题，但并非全新，论文试图从系统性的角度对其进行分类、分析并提出缓解策略。

论文提出了一种全面的LLM幻觉分类体系（taxonomy），并构建了一个理论框架，认为幻觉在可计算的大语言模型中是不可避免的。论文不仅区分了内在幻觉和外在幻觉，还提出了“事实性”和“忠实性”的概念，并从数据、模型、提示等多个层面分析了幻觉产生的原因，最后提出了检测与缓解策略。

1. 提出了LLM幻觉的统一定义与分类体系，有助于后续研究与评估。 2. 理论分析指出幻觉在计算模型中具有不可避免性，为后续研究提供了理论基础。 3. 详细列举了幻觉的具体表现形式（如事实错误、逻辑矛盾、伦理违规等）及其在不同应用场景中的影响。 4. 分析了幻觉产生的多方面原因，并提出了系统性的缓解策略，包括架构调整与人类监督。 5. 介绍了用于追踪LLM发布与性能表现的网络资源，便于持续监控与评估。

1. Zhang et al., "Hallucination in Neural Machine Translation: A Survey", ACL 2022. 2. Rashkin et al., "TruthfulQA: Measuring How Models Mimic Human Falsehoods", NeurIPS 2021. 3. Lin et al., "Commonsense Knowledge Enhanced Prompt Tuning for Zero-shot Learning", EMNLP 2023. 4. Pavlick and Kwiatkowski, "Inherent Disputes in Human Entailment Annotations", TACL 2021. 5. Ji et al., "Survey of Hallucination in Natural Language Generation", ACM Computing Surveys, 2023.