Recall, Retrieve and Reason: Towards Better In-Context Relation Extraction

关系抽取（RE）旨在识别文本中提到的实体之间的关系。尽管大型语言模型（LLMs）在各种任务中展示了令人印象深刻的上下文学习（ICL）能力，但与大多数监督微调的RE方法相比，它们仍然表现不佳。利用LLMs进行RE面临两个挑战：（1）从训练示例中检索出良好的演示，（2）使LLMs在RE中表现出强大的ICL能力。一方面，在RE中检索良好的演示是一个不容易的过程，很容易导致实体和关系的相关性较低。另一方面，LLMs的ICL在RE中表现出较差的性能，而RE与语言建模的性质不同，或者LLMs不够大。在这项工作中，我们提出了一种新颖的回忆-检索-推理RE框架，将LLMs与检索语料库（训练示例）协同作用，以实现相关检索和可靠的上下文推理。具体而言，我们从训练数据集中提取一致的本体知识，让LLMs生成由检索语料库作为有效查询的相关实体对。然后，这些实体对用于从检索语料库中检索相关的训练示例，作为LLMs进行更好的ICL的演示。对不同的LLMs和RE数据集进行的广泛实验表明，我们的方法生成相关和有效的实体对，并提高了LLMs的ICL能力，在句子级RE方面取得了与以前的监督微调方法和ICL方法相比具有竞争力或新的最先进性能。

解决关系抽取中存在的两个挑战：从训练样本中检索到好的演示，并使LLM在关系抽取中表现出强大的上下文学习能力。

提出了一种新的召回-检索-推理关系抽取框架，将LLM与检索语料库相结合，以实现相关的检索和可靠的上下文推理。

通过从训练数据集中提取本体知识，让LLM生成与检索语料库相关的实体对作为有效查询，以检索相关的训练样本作为演示，以进行更好的上下文学习。在不同的LLM和关系抽取数据集上进行了广泛的实验，证明了该方法生成了相关的实体对并提高了LLM的上下文学习能力。

最近的相关研究包括：《End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures》、《Neural Relation Extraction with Selective Attention over Instances》等。