Retrieve, Summarize, Plan: Advancing Multi-hop Question Answering with an Iterative Approach

2024年07月18日
  • 简介
    多跳问题回答是一项具有明显产业相关性的挑战性任务,基于大型语言模型(LLM)的检索增强生成(RAG)方法已成为应对此任务的流行方法。由于可能无法在单次迭代中检索到所有必要的信息,最近开发了一系列迭代RAG方法,显示出显著的性能改进。然而,现有方法仍面临两个关键挑战:由于多轮检索而导致的上下文过载,以及由于缺乏记录的检索轨迹而导致的过度规划和重复规划。在本文中,我们提出了一种新的迭代RAG方法,名为ReSP,配备了双功能摘要器。该摘要器同时针对总体问题和当前子问题压缩来自检索文档的信息。在多跳问题回答数据集HotpotQA和2WikiMultihopQA上的实验结果表明,我们的方法显著优于现有技术水平,并展现出对于上下文长度的良好鲁棒性。
  • 图表
  • 解决问题
    本论文旨在解决多跳问答中存在的文本检索和信息压缩问题,提出一种新的迭代式RAG方法ReSP,并且验证其在多个数据集上的性能。
  • 关键思路
    论文提出了一种新的迭代式RAG方法ReSP,其中使用了一个双重功能的摘要器来压缩检索到的文本信息,同时关注整体问题和当前子问题。
  • 其它亮点
    论文在HotpotQA和2WikiMultihopQA数据集上进行了实验,结果表明ReSP方法在多跳问答任务中表现出色,具有很好的鲁棒性。值得关注的是,ReSP方法能够有效地处理多次迭代检索带来的上下文信息过载和过多规划的问题。
  • 相关研究
    目前,在多跳问答领域,基于大型语言模型的检索增强生成(RAG)方法已经成为一种流行的解决方案。此外,还有一些其他的迭代式RAG方法,例如DensePhrases和DenseRAG。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论