Towards Diverse Perspective Learning with Selection over Multiple Temporal Poolings

AAAI 2024
2024年03月14日
  • 简介
    在时间序列分类(TSC)中,已经提出了考虑连续信息的时间汇聚方法。然而,我们发现每个时间汇聚都有不同的机制,并且根据时间序列数据的不同,表现可能更好或更差。我们将这种固定汇聚机制称为时间汇聚的单一视角。在本文中,我们提出了一种新的时间汇聚方法,即多视角学习的选择多个时间汇聚(SoM-TP)。SoM-TP通过注意力动态选择最佳的时间汇聚方法来处理每个数据。动态汇聚选择的灵感来自于多选学习(MCL)的集成概念,后者从多个输出中选择最佳输出。SoM-TP的注意力汇聚选择在单个分类器内实现了非迭代汇聚集成。此外,我们定义了一种透视损失和多样化透视学习网络(DPLN)。该损失作为一个正则化器,反映了DPLN中所有汇聚视角。我们使用层次相关传播(LRP)进行透视分析,揭示了单一视角的局限性,并最终证明了SoM-TP的多视角学习。我们还展示了SoM-TP在广泛的UCR/UEA数据集中优于基于其他时间汇聚的CNN模型和最先进的TSC模型。
  • 图表
  • 解决问题
    本论文旨在解决时间序列分类中的固定池化机制的问题,并提出了一种新的多角度学习的时间池化方法(SoM-TP),通过动态选择最优池化方法来提高分类性能。
  • 关键思路
    SoM-TP通过注意力机制动态选择最优的池化方法,实现了单个分类器内的多池化集成,同时引入了多选学习的思想,并定义了多角度学习网络(DPLN)和角度损失,以反映所有角度的池化方法。
  • 其它亮点
    论文使用了UCR/UEA数据集进行了广泛的实验,证明了SoM-TP在时间序列分类任务中的优越性。此外,通过使用LRP进行角度分析,揭示了单一角度的局限性,并证明了SoM-TP的多角度学习的优势。
  • 相关研究
    在时间序列分类领域,已经有一些池化方法被提出,如MPL、TDE、TDP等。此外,还有一些使用注意力机制的方法,如TATT、TAL等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论