Channel-Aware Low-Rank Adaptation in Time Series Forecasting

在长期时间序列预测中，模型容量和泛化之间的平衡一直是近期讨论的重点。两种代表性的通道策略与模型表达能力和鲁棒性密切相关，包括通道独立性（CI）和通道依赖性（CD）。前者采用单独通道处理，已被证明对分布转移更具鲁棒性，但缺乏足够的容量来模拟有意义的通道交互。后者更具表现力，可以表示复杂的跨通道依赖关系，但容易过拟合。为了平衡这两种策略，我们提出了一种通道感知低秩适应方法，将CD模型基于身份感知的单独组件进行条件化。作为插件解决方案，它适用于各种主干架构。广泛的实验表明，它可以持续且显著地提高CI和CD模型的性能，并表现出高效性和灵活性。代码可在https://github.com/tongnie/C-LoRA上获取。

论文旨在解决长期时间序列预测中模型容量和泛化之间的平衡问题，提出了一种通道感知低秩自适应方法来平衡通道独立性和通道依赖性策略。

该方法通过将通道依赖模型与身份感知的个体组件相结合，来提高CD模型的鲁棒性和表达能力。

该方法是一种插件解决方案，可适用于各种骨干架构，能够显著提高CI和CD模型的性能，且具有高效性和灵活性。论文提供了代码开源。

在长期时间序列预测领域，还有一些相关研究，如《DeepAR: Probabilistic Forecasting with Autoregressive Recurrent Networks》、《Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting》等。