标题:伊利诺伊大学、布法罗大学|Open Relation Modeling: Learning to Define Relations between Entities(开放关系建模:学习定义实体关系)

推荐理由:语言模型在实体关系预测中的应用

作者:伊利诺伊大学厄巴纳-香槟分校协调科学实验室的Jie Huang、Wen-mei Hwu教授

简介:实体之间的关系可以用不同的实例来表示,例如,一个句子同时包含知识中的实体或事实图。但是,这些实例可能无法很好地捕获实体之间的一般关系,可能被人类难以理解,甚至可能由于知识来源不完整而不被发现。在本文中,我们介绍了开放关系建模任务——给定两个实体,生成一个连贯的句子来描述他们之间的关系。为了解决这个任务,我们提出教机器让他们从实体的定义中学习。具体来说,我们微调预训练语言模型以生成以提取的实体对为条件的定义。帮助PLM在两者之间进行推理实体并为PLM提供额外的知识开放关系建模,我们在KG中加入推理路径并设计推理路径选择机制。我们证明PLM可以通过以下方式选择可解释和信息丰富的推理路径置信度估计,所选路径可以指导PLM生成更好的关系描述。实验结果表明我们的模型可以生成简洁但信息丰富的关系描述,以捕捉实体的代表性特征和关系。

论文下载:https://arxiv.org/pdf/2108.09241v1.pdf

内容中包含的图片若涉及版权问题,请及时与我们联系删除