Tree of Reviews: A Tree-based Dynamic Iterative Retrieval Framework for Multi-hop Question Answering

多跳问题回答是一个知识密集型的复杂问题。大型语言模型（LLMs）使用其思维链（CoT）能力逐步推理复杂问题，而检索增强可以有效减轻LLMs中过时和未知知识导致的事实错误。最近的研究将检索增强引入到CoT推理中以解决多跳问题回答。然而，这些链式方法存在以下问题：1）检索到的无关段落可能会误导推理；2）链式结构中的错误可能会导致错误的级联。本文提出了一个名为Tree of Reviews（ToR）的动态检索框架，其中根节点是问题，其他节点是来自检索的段落，从根节点到其他节点扩展不同的推理路径。我们的框架根据推理路径上的段落动态决定启动新的搜索、拒绝或接受。与相关工作相比，我们引入了树形结构来单独处理每个检索到的段落，减轻了无关段落对推理路径的误导影响；推理路径扩展的多样性减少了单个推理错误对整个推理的影响。我们在三个不同的多跳问题回答数据集上进行了实验。结果表明，与基线方法相比，ToR在检索和响应生成方面实现了最先进的性能。此外，我们提出了两种基于树形搜索的优化策略，修剪和有效扩展，以减少时间开销并增加路径扩展的多样性。我们将发布我们的代码。

本文旨在解决多跳问题回答中存在的知识缺失和错误问题，提出了一种动态检索框架Tree of Reviews（ToR）。

ToR框架采用树形结构，将问题作为根节点，检索到的段落作为其他节点，通过扩展不同的推理路径来解决多跳问题。相比目前的链式方法，ToR框架能够更好地处理检索到的无关段落和推理路径中的错误。

本文在三个不同的多跳问题回答数据集上进行了实验，结果表明ToR在检索和响应生成方面均取得了最先进的性能。此外，本文还提出了两种基于树形搜索的优化策略，即修剪和有效扩展，以减少时间开销和增加路径扩展的多样性。作者将开源他们的代码。

最近的相关研究包括使用大型语言模型的链式方法和检索增强的链式方法来解决多跳问题回答。