MSegRNN:Enhanced SegRNN Model with Mamba for Long-Term Time Series Forecasting

2024年07月15日
  • 简介
    长期时间序列预测领域需要处理广泛的回溯窗口和长期预测步骤,这给基于RNN的方法提出了重大挑战。其中,SegRNN是一种强大的RNN驱动模型,在保持明显简化结构的同时,已经在LTSF分析中获得了相当大的关注并取得了最先进的结果。同时,Mamba结构由于其信息选择能力,在小到中型模型中已经证明了其优势。本研究介绍了SegRNN的一种变体,该变体使用经过精细调整的单层Mamba结构预处理信息。此外,它还将隐式分割和残差结构纳入模型的编码部分,以进一步减少RNN体系结构的固有数据迭代周期,并隐含地集成通道间的相关性。这种变体被命名为MSegRNN,它利用Mamba结构选择有用的信息,从而产生一个转换序列。线性策略适应的导数保留了原始SegRNN的卓越内存效率,同时展示了增强的性能。对真实世界的LTSF数据集进行的实证评估证明了我们模型的卓越性能,从而有助于推进LTSF方法的发展。
  • 图表
  • 解决问题
    本论文旨在解决长期时间序列预测领域中RNN方法面临的挑战,提出一种名为MSegRNN的模型,通过使用经过微调的单层Mamba结构预处理信息,并将隐式分割和残差结构融入编码部分,以进一步减少RNN架构中的数据迭代循环并隐式集成通道间相关性,从而提高模型性能。
  • 关键思路
    MSegRNN模型通过使用Mamba结构预处理信息,并将隐式分割和残差结构融入编码部分,从而提高长期时间序列预测的性能。
  • 其它亮点
    论文提出的MSegRNN模型在真实世界的长期时间序列预测数据集上表现出优异的性能,并且保持了原始SegRNN模型的内存效率。实验设计合理,使用了多个数据集进行验证,但未开源代码。该研究为长期时间序列预测方法的进一步发展做出了贡献。
  • 相关研究
    在最近的相关研究中,也有一些关于长期时间序列预测的方法,例如:'Long Short-Term Memory Neural Networks for Traffic Speed Prediction Using Remote Microwave Sensor Data','Deep Learning for Time Series Forecasting: A Survey'等。
许愿开讲
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论