A Temporal Kolmogorov-Arnold Transformer for Time Series Forecasting

我们提出了一种名为“时间Kolmogorov-Arnold Transformer（TKAT）”的新型基于注意力机制的架构，旨在处理多变量数据流中的复杂时间模式和关系。该架构使用了“时间Kolmogorov-Arnold Networks（TKANs）”，并受到“Temporal Fusion Transformer（TFT）”的启发，是一种功能强大的编码器-解码器模型，专门处理观察到的特征部分比先验已知部分更重要的任务。该架构结合了Kolmogorov-Arnold表示的理论基础和transformer的强大能力，旨在简化时间序列中固有的复杂依赖关系，使其更易于“解释”。在这个框架中使用transformer架构，可以通过自注意机制捕捉长程依赖关系。

本论文旨在解决多变量数据流中复杂时间模式和关系的捕捉问题。

本论文提出了一种新的基于注意力机制的架构——Temporal Kolmogorov-Arnold Transformer（TKAT），用于处理时间序列数据。

TKAT结合了Kolmogorov-Arnold表示的理论基础和transformer模型的强大功能，可以简化时间序列中的复杂依赖关系，使其更易于解释。通过自注意机制，TKAT可以捕捉长距离依赖关系。实验结果表明，TKAT在多个数据集上表现出色。

与本论文相关的研究包括Temporal Fusion Transformer（TFT）和其他基于transformer的时间序列模型，如Transformer-XL、Gated Transformer等。