TemPrompt: Multi-Task Prompt Learning for Temporal Relation Extraction in RAG-based Crowdsourcing Systems

2024年06月21日
  • 简介
    这段摘要讲述了时间关系抽取(TRE)的重要性,它旨在抓住事件或行动的演变过程,从而塑造相关任务的工作流程,因此有助于理解众包系统中请求者发起的任务请求。然而,现有方法仍然面临着有限和分布不均匀的标注数据的问题。因此,受预训练语言模型(PLMs)中丰富的全局知识启发,作者提出了一个多任务提示学习框架(TemPrompt),结合提示调整和对比学习来解决这些问题。为了引出更有效的PLMs提示,作者引入了一种面向任务的提示构建方法,全面考虑TRE的各种因素,以进行自动提示生成。此外,作者提出了时间事件推理作为模型对事件和时间线索的补充。实验结果表明,在标准和少样本设置下,TemPrompt在大多数指标上均优于所有比较基线。作者还提供了一个案例研究,以验证其在众包场景中的有效性。
  • 作者讲解
  • 解决问题
    本文旨在解决时序关系抽取(TRE)领域中数据有限和分布不均的问题,提出了一种基于预训练语言模型的多任务提示学习框架(TemPrompt),并探讨其在众包场景下的应用。
  • 关键思路
    TemPrompt框架采用了多任务提示学习、提示微调和对比学习等方法,结合任务导向的提示构建方法和时序事件推理技术,提高了模型的效果。
  • 其它亮点
    本文实验结果表明,TemPrompt在标准和少样本设置下均优于其他基线模型,具有较强的泛化能力。此外,本文提出的任务导向的提示构建方法可以为其他NLP任务提供启示。
  • 相关研究
    近年来,TRE领域的相关研究包括《Neural Temporal Relation Extraction》、《A Joint Model for Temporal Reasoning and Event Extraction》等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问