xLSTM-Mixer: Multivariate Time Series Forecasting by Mixing via Scalar Memories

时间序列数据在众多领域中普遍存在，这要求开发出强大且准确的预测模型。捕捉时间序列内部及多变量组件之间的模式对于可靠的预测至关重要。我们提出了xLSTM-Mixer模型，该模型旨在有效整合时间序列、联合时变信息和多个视角，以实现稳健的预测。我们的方法从一个跨变量共享的线性预测开始，然后通过xLSTM块进行细化。这些块是建模复杂时间序列数据动态的关键元素。最终，xLSTM-Mixer将两种不同的视角统一起来，生成最终的预测结果。我们的广泛评估表明，与最近的最先进方法相比，xLSTM-Mixer在长期预测性能上具有显著优势。详尽的模型分析进一步揭示了其关键组件，并确认了其稳健性和有效性。这项工作有助于推动循环模型在时间序列预测中的复兴。

该论文旨在解决时间序列数据中的多变量和长期预测问题，特别是如何有效地捕捉时间序列内部及之间的复杂动态模式。这是一个在多个领域中普遍存在的问题，尽管已有许多研究，但仍然存在改进的空间。

xLSTM-Mixer模型的关键思路是结合线性预报和xLSTM块来处理多变量时间序列数据。首先，通过一个跨变量共享的线性预报来捕获基础趋势，然后利用xLSTM块对复杂的时间动态进行建模。这种方法不仅能够处理单个时间序列内的变化，还能捕捉不同变量之间的关系，从而提高预测的准确性和鲁棒性。

论文通过广泛的实验验证了xLSTM-Mixer在长期预测任务上的优越性能，尤其是在具有挑战性的数据集上。实验设计包括与多种现有方法的对比，使用了多个标准数据集，并且提供了详细的模型分析以解释其有效性和鲁棒性。此外，论文还开源了实现代码，为后续研究提供了便利。未来的研究可以进一步探索xLSTM-Mixer在更多实际应用场景中的表现，以及如何优化模型结构以适应更大规模的数据集。

近年来，关于时间序列预测的研究非常活跃，一些相关的工作包括：1)《Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting》提出了Informer模型，通过稀疏注意力机制提高长序列预测效率；2)《Temporal Fusion Transformers for Interpretable Multi-horizon Time Series Forecasting》引入了Temporal Fusion Transformer，结合了自注意力和门控循环单元来提高多步预测的可解释性；3)《N-BEATS: Neural basis expansion analysis for interpretable time series forecasting》提出了N-BEATS模型，通过神经网络基础扩展分析来实现可解释的时间序列预测。