ConvTimeNet: A Deep Hierarchical Fully Convolutional Model for Multivariate Time Series Analysis

本文介绍了ConvTimeNet，一种新颖的深度分层全卷积网络，旨在作为时间序列分析的通用模型。该网络的关键设计具有双重作用，旨在克服传统卷积网络的局限性。首先，我们提出了一种自适应的时间序列分割成子序列级别的补丁，将其作为基本建模单元。这种设置避免了与原始点级时间步长相关的稀疏语义。其次，我们设计了一个完全卷积块，巧妙地集成了深度和点卷积操作，遵循Transformer编码器中使用的先进构建块样式。这个骨干网络允许有效地捕捉全局序列和交叉变量依赖性，因为它不仅包含Transformer架构的进展，而且继承了卷积的固有属性。此外，可以通过灵活控制内核大小来学习给定时间序列实例的多尺度表示。在时间序列预测和分类任务上进行了大量实验。在大多数情况下，结果在有效性方面始终优于强基线。代码公开可用。

本论文旨在提出一种用于时间序列分析的新型深度卷积神经网络，以解决传统卷积神经网络的局限性。

该网络的关键设计在于：一是将时间序列自适应地分割成子序列级别的补丁，并将其作为基本建模单元，从而避免了与原始点级时间步长相关的稀疏语义；二是通过巧妙地集成深度和点卷积操作设计了全卷积块，遵循Transformer编码器所采用的先进建筑风格。这个骨干网络不仅可以有效地捕捉全局序列和跨变量依赖性，而且还可以通过灵活地控制内核大小来学习给定时间序列实例的多尺度表示。

论文在时间序列预测和分类任务上进行了广泛的实验，结果在大多数情况下表现优于强基线。论文的代码是公开的。

在这个领域中，最近的相关研究包括：《Time Series Classification with Deep Learning: A Survey》、《Time Series Forecasting Using Deep Learning: A Survey》等。