转自哈工大SCIR

事件预测任务要求模型在充分理解事件间存在的复杂关系的基础上，预测可能发生后续事件。为增进对于事件间关系的理解，前期方法提出从事件图中，检索出事件关系信息，并将其融入预训练模型中。然而，事件图固有的稀疏性将限制此类方法的性能。

论文链接：https://arxiv.org/pdf/2205.10822.pdf

本文提出了一个能够自动预测图结构信息，并有效利用构图结构信息的框架GraphBERT。顾名思义，GraphBERT是Graph与语言模型BERT两部分的融合。BERT能够利用预训练过程中获得的丰富语言学知识，充分理解各个事件的语义。在训练过程中，Graph部分则以事件图结构为监督信号，学习如何自动，预测事件图描绘的事件间邻接关系。在测试过程中，在没有事件图信息存在的情况下，Graph部分也能够预测出任意两个事件间之间的邻接关系。从而预测出的事件间邻接关系则可服务于事件预测任务。

内容中包含的图片若涉及版权问题，请及时与我们联系删除