SentiCSE: A Sentiment-aware Contrastive Sentence Embedding Framework with Sentiment-guided Textual Similarity

LREC-COLING2024
2024年04月01日
  • 简介
    最近,情感感知的预训练语言模型(PLMs)在下游情感分析任务中展示出了令人印象深刻的结果。然而,它们忽视了评估其构建的情感表示的质量;它们只关注于提高微调性能,这掩盖了表示质量。我们认为,在不保证表示质量的情况下,它们的下游性能可能高度依赖于微调数据的监督,而不是表示质量。这个问题将使它们难以进军其他情感相关领域,特别是在标记数据稀缺的情况下。我们首先提出了一种新的度量情感表示质量的指标——情感引导的文本相似度(SgTS),它是基于两个句子情感极性等价程度设计的。然后,我们提出了SentiCSE,一种新的情感感知对比句子嵌入框架,通过结合单词级和句子级目标来构建情感表示,其质量由SgTS保证。我们的工作与之前的情感感知PLMs进行了定性和定量比较,显示出了我们的优越性。我们的代码可在以下链接中找到:https://github.com/nayohan/SentiCSE。
  • 图表
  • 解决问题
    论文试图解决如何评估情感表示质量的问题,并提出一种新的评估指标和相应的情感感知对比句子嵌入框架
  • 关键思路
    论文提出了Sentiment-guided Textual Similarity(SgTS)指标来评估情感表示质量,并提出了SentiCSE框架来构建情感表示,该框架结合了词级和句子级目标,并通过SgTS保证表示质量
  • 其它亮点
    论文的实验结果表明,SentiCSE相比之前的情感感知PLMs具有更好的性能,论文的代码已在github上开源
  • 相关研究
    最近的相关研究包括使用多任务学习来提高情感分析性能的论文《Multi-Task Learning for Sentiment Analysis using Neural Networks》
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论