FedASTA: Federated adaptive spatial-temporal attention for traffic flow prediction

现今移动设备和物联网设备生成了大量异构的时空数据。在隐私保护的前提下，对时空动态进行建模仍然是一个具有挑战性的问题。联邦学习（FL）已被提出作为一个框架，使得在不共享原始数据的情况下，可以在分布式设备间进行模型训练，从而降低隐私风险。个性化联邦学习（PFL）方法进一步解决了数据异构问题。然而，这些方法没有考虑节点之间的自然空间关系。为了建模空间关系，基于图神经网络（GNN）的FL方法已经被提出。但是，动态的时空关系没有被考虑在内。一些方法在集中式环境下对空间时空动态进行建模，但在联邦设置下的研究工作较少。为了克服这些挑战，我们提出了一种新的联邦自适应时空注意力（FedASTA）框架来建模动态的时空关系。在客户端节点上，FedASTA从原始时间序列的分解项中提取时间关系和趋势模式。然后，在服务器节点上，FedASTA利用客户端的趋势模式构建自适应的时空感知图，捕捉客户端之间的动态相关性。此外，我们设计了一个带有静态图和构建的自适应图的掩蔽空间注意力模块来建模客户端之间的空间依赖关系。对五个真实的公共交通流数据集进行的广泛实验表明，我们的方法在联邦场景下取得了最先进的性能。此外，在集中式设置下进行的实验显示，与其他流行的动态时空感知方法相比，我们的新颖自适应图构建方法的有效性得到了证明。

本论文旨在解决在隐私保护的前提下，建模异构时空数据的动态空间关系的问题。现有的联邦学习和图神经网络方法没有考虑动态空间关系，而中心化方法也没有在联邦学习环境下进行研究。

本论文提出了一种新的联邦学习框架FedASTA，通过在客户端提取时间序列的趋势和关系，并在服务器端利用客户端的趋势模式构建自适应的时空关系图，以捕捉客户端之间的动态相关性。此外，论文设计了一个掩蔽空间注意力模块来建模客户之间的空间依赖关系。

论文在五个真实的公共交通流数据集上进行了广泛的实验，证明了FedASTA在联邦场景下实现了最先进的性能。此外，与其他流行的动态时空感知方法相比，论文的自适应图构建方法在中心化设置中的实验中也得到了证实。

最近的相关研究包括联邦学习和图神经网络方法在时空建模中的应用，以及动态时空关系建模的中心化方法。相关论文包括：“Privacy-Preserving Federated Brain Tumor Segmentation”和“Graph Convolutional Networks for Time-Space Traffic Forecasting”。