Interpreting Temporal Graph Neural Networks with Koopman Theory

时空图神经网络（STGNNs）在许多领域展现了令人鼓舞的结果，从预测到流行病学。然而，理解这些模型所学习的动力学并解释其行为，要比处理静态数据的模型复杂得多。受Koopman理论的启发，该理论允许对复杂的非线性动力系统进行更简单的描述，我们引入了一种针对时态图的可解释性方法。我们提出了两种方法来解释STGNN的决策过程，并识别输入中与任务最相关的空间和时间模式。第一种方法依赖于动态模态分解（DMD），这是一种基于Koopman理论的降维方法。第二种方法依赖于稀疏非线性动力学识别（SINDy），这是一种用于发现控制方程的流行方法，我们首次将其用作一种通用的可解释性工具。我们展示了我们的方法如何在传播过程的背景下正确识别可解释的特征，如感染时间和感染节点。

该论文试图解决时空图神经网络（STGNNs）在处理动态图数据时解释性差的问题。这是一个重要的问题，因为虽然STGNNs在多个领域表现出色，但其内部机制和决策过程的复杂性使得模型的可解释性和透明度较低。

论文的关键思路是利用Koopman理论中的方法来增强STGNNs的解释性。具体来说，提出了两种方法：一是基于动态模式分解（DMD）的维度降低方法，二是基于稀疏非线性动力学识别（SINDy）的方法，用于发现模型的控制方程。这两种方法旨在帮助识别输入数据中对任务最相关的时空模式。

论文通过实验证明了所提出的方法能够正确识别出具有解释性的特征，如传播过程中的感染时间和感染节点。实验设计合理，使用了多种数据集，并且展示了方法的有效性。此外，论文还提供了开源代码，便于其他研究人员复现和进一步研究。未来可以探索这些方法在其他领域的应用，例如交通预测、金融分析等。

最近在这个领域中，还有一些相关的研究，例如： 1. "Interpretable Graph Neural Networks for the Prediction of Molecular Properties" - 探索了分子属性预测中的可解释图神经网络。 2. "Temporal Graph Neural Networks for Anomaly Detection" - 研究了时间图神经网络在异常检测中的应用。 3. "Koopman Operator Theory for Nonlinear Dynamical Systems" - 深入探讨了Koopman算子理论在非线性动力系统中的应用。