【论文标题】Language Generation with Multi-Hop Reasoning on Commonsense Knowledge Graph 【作者团队】Haozhe Ji, Pei Ke, Shaohan Huang, Furu Wei, Xiaoyan Zhu, Minlie Huang 【发表时间】EMNLP 2020 【论文链接】https://arxiv.org/abs/2009.11692 【公开代码】https://github.com/cdjhz/multigen. 【推荐理由】本文提出一种有效的从知识图谱生成推理语言的方法,并在所有数据集上取得了最好的效果。 尽管生成性语言模型在一系列文本生成任务中取得了成功,但在生成过程中需要对底层常识知识进行推理的情况下,它们仍然会受到影响。现有的将常识知识整合到生成式预训练语言模型中的方法,只是通过对个体知识的三倍后训练来传递关系知识,而忽略了知识图中丰富的联系。作者认为利用知识图的结构和语义信息有助于常识性文本的生成。本文利用多跳推理流(GRF)提出了一种基于外部常识知识图的多关系路径动态多跳推理预训练模型的生成方法。我们的经验表明,本文的模型在三个文本生成任务上优于现有的基线,这些任务需要在常识知识基础上进行推理。文中还证明了动态多跳推理模块的有效性,该模型推理路径为生成提供了理论依据。

内容中包含的图片若涉及版权问题,请及时与我们联系删除