CBR-RAG: Case-Based Reasoning for Retrieval Augmented Generation in LLMs for Legal Question Answering

2024年04月04日
  • 简介
    检索增强生成(RAG)通过提供先前知识作为输入的上下文来增强大型语言模型(LLM)的输出。这对于需要证据验证生成的文本输出的知识密集型和专家依赖型任务非常有益,包括法律问答。我们强调,基于案例推理(CBR)为将检索结构化为LLM中RAG过程的一部分提供了关键机会。我们介绍了CBR-RAG,其中CBR循环的初始检索阶段、其索引词汇和相似性知识容器用于增强LLM查询与上下文相关的案例。这种整合增强了原始LLM查询,提供了更丰富的提示。我们对CBR-RAG进行了评估,并在法律问答任务上检查了不同的表示形式(即通用和领域特定的嵌入)和比较方法(即内部、外部和混合相似性)。我们的结果表明,CBR的案例重用提供的上下文强制相关组件之间的相似性,从而显着提高了生成答案的质量。
  • 图表
  • 解决问题
    本论文旨在通过结合案例推理(CBR)和检索增强生成(RAG)来提高大型语言模型在法律问答任务中的表现,以提供上下文知识作为输入的先验知识。
  • 关键思路
    CBR-RAG模型将CBR循环的初始检索阶段、索引词汇表和相似性知识容器用于增强LLM查询的上下文相关案例,从而提供更丰富的提示,进而提高生成答案的质量。
  • 其它亮点
    论文通过评估CBR-RAG模型在法律问答任务中不同表示方法(通用和领域特定嵌入)和比较方法(内部、间部和混合相似性)的性能,证明了CBR的案例重用提供的上下文信息可以增强LLM查询的质量,从而提高生成答案的质量。
  • 相关研究
    最近的相关研究包括使用RAG模型进行问答的工作,以及使用CBR进行问答的工作。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论