Learning Global and Local Features of Power Load Series Through Transformer and 2D-CNN: An image-based Multi-step Forecasting Approach Incorporating Phase Space Reconstruction

随着现代电力系统的不断发展，准确的电力负荷预测仍然是一个关键问题。相空间重构方法可以有效地从系统动力学角度保留电力负荷的混沌特性，因此是电力负荷预测的有前途的基于知识的预处理方法。然而，由于其基本理论的限制，在当前的研究中实施多步预测方案仍存在差距。为了弥合这一差距，本研究提出了一种新的多步预测方法，将PSR与神经网络集成在一起。首先，详细讨论了从PSR预处理中获得的相轨迹中的有用特征。通过数学推导，首次证明了PSR和另一种时间序列预处理方法——补丁分割的等效表征。基于这个先验知识，引入了基于图像的建模视角，采用全局和局部特征提取策略。随后，设计了一种新型的深度学习模型，即PSR-GALIEN，用于端到端处理。其中，采用Transformer编码器和2D卷积神经网络来提取图像中的全局和局部模式，采用基于多层感知机的预测器来进行高效的相关建模。然后，在五个真实世界的基准数据集上进行了广泛的实验，以验证其有效性并深入了解其详细属性。结果表明，与六种最先进的深度学习模型相比，PSR-GALIEN的预测性能始终优于这些基线，在日内和提前一天的预测场景中均实现了更高的精度。同时，提出了一种基于可视化的方法来解释预测结果的属性。

解决问题：如何进行准确的电力负荷预测是本论文试图解决的问题。通过将相空间重构方法与神经网络相结合，提出了一种新的多步预测方法。

关键思路：本论文的关键思路是将相空间重构方法与神经网络相结合，提出了一种名为PSR-GALIEN的深度学习模型。该模型通过全局和局部特征提取策略，使用Transformer编码器和二维卷积神经网络进行图像建模，并使用基于多层感知器的预测器进行高效的相关建模。

其他亮点：本论文使用了五个真实世界的基准数据集进行了大量实验，结果表明，PSR-GALIEN模型的预测性能始终优于六种最先进的深度学习模型。该模型在日内和提前一天的预测场景中均具有卓越的准确性。此外，本论文还提出了一种可视化方法来解释预测结果的归因。

相关研究：最近在这个领域中，还有一些相关的研究，如《Short-term load forecasting using deep neural networks: An overview and new evaluation》和《A review on short-term load forecasting of smart grid》。