Input Snapshots Fusion for Scalable Discrete Dynamic Graph Nerual Networks

动态图在现实世界中无处不在，但缺乏合适的理论框架来有效地将现有的静态图模型扩展到时间域。此外，对于离散动态图上的链接预测任务，存储所有节点嵌入所需的大量GPU内存限制了现有模型的可扩展性。在本文中，我们介绍了一种基于输入快照融合的动态图神经网络（SFDyG）。通过消除输入窗口内快照的分区，我们获得了一个多图（两个节点之间有多个边）。随后，通过引入具有时间衰减平滑假设的图去噪问题，我们将Hawkes过程理论融入图神经网络中，以建模生成的多图。此外，基于多图，我们提出了一种可扩展的三步小批量训练方法，并证明其与完整批量训练的等效性。我们在八个不同的动态图数据集上进行的实验，用于未来的链接预测任务，发现SFDyG通常优于相关方法。

本论文旨在解决静态图模型无法有效扩展到时间域的问题，以及在离散动态图上进行链接预测任务时，现有模型存储所有节点嵌入所需的大量GPU内存限制可扩展性的问题。

通过消除输入窗口内的快照分区，得到一个多图。接着，通过引入具有时间衰减平滑假设的图去噪问题，将Hawkes过程理论融入图神经网络中以建模生成的多图。此外，基于多图，提出了一种可扩展的三步小批量训练方法，并证明其与全批量训练对应方法等价。

论文在八个不同的动态图数据集上进行实验，揭示了SFDyG普遍优于相关方法。此外，论文提出的可扩展的三步小批量训练方法也是值得关注的亮点。

最近的相关研究包括《Dynamic Graph Convolutional Networks》、《STGCN: Spatio-Temporal Graph Convolutional Networks for Traffic Prediction》等。