Enhancing Noise Robustness of Retrieval-Augmented Language Models with Adaptive Adversarial Training

大型语言模型（LLMs）具有重要的能力，但也面临着幻觉、过时知识和无法追溯的推理过程等挑战。检索增强生成（RAG）已经成为一种有前途的解决方案，它将来自外部数据库的知识集成到模型中，以缓解这些挑战。然而，不适当的检索结果可能会潜在地阻碍LLMs生成全面和高质量的响应。以往关于检索噪声鲁棒性的RAG研究通常只针对有限的一组噪声类型进行研究，偏离了真实的检索环境，限制了实际的应用。在本研究中，我们首先研究检索噪声并将其归类为三种不同类型，反映了真实的环境。我们分析这些不同的检索噪声对LLMs鲁棒性的影响。随后，我们提出了一种新的RAG方法，称为检索增强自适应对抗训练（RAAT）。RAAT利用自适应对抗训练来动态调整模型的训练过程，以响应检索噪声。同时，它采用多任务学习来确保模型内部识别噪声上下文的能力。广泛的实验表明，使用RAAT训练的LLaMA-2 7B模型在不同的噪声条件下F1和EM得分显著提高。为了可重复性，我们在https://github.com/calubkk/RAAT上发布了我们的代码和数据。

论文旨在解决Retrieval-augmented generation (RAG)中存在的问题，即不合适的检索结果可能会影响生成质量和全面性。研究者试图提出一种新的RAG方法来解决这个问题。

论文提出了一种新的RAG方法，称为Retrieval-augmented Adaptive Adversarial Training (RAAT)，该方法利用自适应对抗训练来动态调整模型的训练过程以应对检索噪声，并使用多任务学习来确保模型内部识别噪声上下文的能力。

论文对检索噪声进行了分类，并分析了这些噪声对模型鲁棒性的影响。实验结果表明，使用RAAT训练的模型在不同噪声条件下的F1和EM得分都有显著提高。作者公开了代码和数据集，方便后续研究。

最近的相关研究包括：1.《Improving Robustness of Retrieval-Augmented Generation Models via Adversarial Training》；2.《Beyond Accuracy: Behavioral Testing of NLP Models with CheckList》；3.《Unsupervised Multi-Document Summarization with Sentence Graph Compression》等。