FTMixer: Frequency and Time Domain Representations Fusion for Time Series Modeling

时间序列数据可以在时间域和频率域中表示，时间域强调局部依赖性，频率域强调全局依赖性。为了利用两个域捕捉局部和全局依赖性的优势，我们提出了频率和时间域混合器(FTMixer)。为了利用频率域的全局特征，我们引入了频率通道卷积(FCC)模块，旨在捕捉全局间系依赖性。受频率域变换中窗口概念的启发，我们提出了窗口频率卷积(WFC)模块，以捕捉局部依赖性。WFC模块首先在每个窗口内进行频率变换，然后在窗口之间进行卷积。此外，为了更好地捕捉这些局部依赖性，我们采用通道独立方案来混合时间域和频率域补丁。值得注意的是，FTMixer使用实数的离散余弦变换(DCT)而非基于复数的离散傅里叶变换(DFT)，使得现代深度学习运算符可以直接在频率域中使用。在七个真实世界的长期时间序列数据集上进行的广泛实验结果表明，FTMixer在预测性能和计算效率方面都具有优越性。

论文试图通过提出Frequency and Time Domain Mixer (FTMixer)来解决在时域和频域中捕捉局部和全局依赖性的问题。

FTMixer通过引入Frequency Channel Convolution (FCC)模块和Windowing Frequency Convolution (WFC)模块，结合了时域和频域的优势，以捕捉局部和全局依赖性。

论文在七个真实世界的长期时间序列数据集上进行了广泛的实验，证明了FTMixer在预测性能和计算效率方面的优越性。FTMixer使用实数的离散余弦变换（DCT）代替基于复数的离散傅里叶变换（DFT），从而能够直接利用现代深度学习算子在频域中进行计算。

最近的相关研究包括：'Time2Vec: Learning a Vector Representation of Time'，'DeepAR: Probabilistic Forecasting with Autoregressive Recurrent Networks'，'Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting'等。