DyGMamba: Efficiently Modeling Long-Term Temporal Dependency on Continuous-Time Dynamic Graphs with State Space Models

学习连续时间动态图（CTDGs）的有用表示是具有挑战性的，因为需要同时跨越长时间节点交互历史和把握微妙的时间细节。特别是，出现了两个问题：（1）编码更长的历史需要更多的计算资源，使得CTDG模型保持低计算复杂性以确保效率至关重要；（2）同时，需要更强大的模型来识别并选择最关键的时间信息，这些信息来自于更长的历史提供的扩展背景。为了解决这些问题，我们提出了一种名为DyGMamba的CTDG表示学习模型，它源于流行的Mamba状态空间模型（SSM）。DyGMamba首先利用节点级别的SSM来编码历史节点交互序列。然后，另一个时间级别的SSM被用来利用隐藏在历史图中的时间模式，其输出用于动态选择来自交互历史的关键信息。我们在动态链接预测任务上实验验证了DyGMamba。结果显示，我们的模型在大多数情况下都达到了最先进的水平。DyGMamba在计算资源方面也保持了高效，使得在有限的计算预算下捕捉长时间依赖成为可能。

该论文旨在解决连续时间动态图（CTDG）中学习有用表示的挑战，即需要跨越长时间节点交互历史并抓住微妙的时间细节。同时，需要保持低计算复杂度以确保效率，并识别并选择历史上最关键的时间信息。

该论文提出了一种名为DyGMamba的CTDG表示学习模型，利用了流行的Mamba状态空间模型（SSM）。DyGMamba首先利用节点级SSM来编码历史节点交互序列，然后使用另一个时间级SSM来利用隐藏在历史图中的时间模式，其输出用于从交互历史中动态选择关键信息。

论文在动态链接预测任务上进行了实验验证，结果显示我们的模型在大多数情况下均达到了最先进水平。DyGMamba在计算资源方面也保持高效，可以在有限的计算预算下捕获长时间依赖关系。

最近的相关研究包括：《Dynamic Graph Convolutional Networks》、《Graph Wavelet Neural Network》、《Spatio-Temporal Graph Convolutional Networks: A Deep Learning Framework for Traffic Forecasting》等。