- 简介大型语言模型(LLMs)在各种语言任务中表现出色,但它们经常会生成错误的信息,这种现象被称为“幻觉”。检索增强生成(RAG)旨在通过使用文档检索来实现准确的响应,以缓解这种问题。然而,由于查询模糊,RAG仍然面临幻觉的问题。本研究旨在通过使用查询-文档对齐分数优化查询生成,使用LLMs对查询进行细化,以提高文档检索的精度和效率,从而改进RAG。实验表明,我们的方法改进了文档检索,平均准确性提高了1.6%。
- 图表
- 解决问题本论文旨在通过优化查询生成和查询文档对齐分数来改进检索增强生成(RAG)模型,以减少模型的幻觉问题。
- 关键思路通过引入查询文档对齐分数,使用LLM进行查询细化,从而改进RAG模型的查询生成和文档检索效率。
- 其它亮点论文通过实验表明,该方法可以提高文档检索的准确性,平均准确率提高了1.6%。同时,论文还使用了多个数据集进行实验,并开源了代码。
- 相关研究包括使用预训练语言模型的对话生成模型和检索增强生成模型,如DialoGPT和T5等。


提问交流