作者：Yanjie Gou, Yinjie Lei, Lingqiao Liu,等

简介：本文研究将预训练语言编码器作为三元组提取的自然标记框架。方面情感三元组提取（ASTE）旨在将方面、观点及其情感关系的跨度提取为情感三元组。现有的工作通常将跨度检测描述为一维标记问题，并使用二维标记矩阵对情感识别进行建模。此外，通过利用BERT等预训练语言编码器（PLE）的令牌表示，它们可以实现更好的性能。然而，它们只是利用PLE作为特征提取器来构建模块，但从未深入了解PLE包含哪些特定知识。在本文中，作者认为与进一步设计模块来捕捉ASTE的归纳偏差不同，PLE本身包含“足够”的1D和2D标记特征：（1）标记表示包含标记本身的上下文意义，因此该级别特征包含1D标记所需的信息。（2） 不同PLE层的注意矩阵可以进一步捕获存在于标记对中的多级语言知识，这有利于二维标注。（3） 此外通过简单的转换，这两个特征也可以分别轻松地转换为2D标记矩阵和1D标记序列。这将进一步提高标记结果。通过上述策略：PLE可以成为自然的标签框架、并达到新的SOTA水平，这已通过大量实验和深入分析得到验证。

 

 

论文下载：https://arxiv.org/pdf/2208.09617.pdf

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除