Personalized Federated Learning for Spatio-Temporal Forecasting: A Dual Semantic Alignment-Based Contrastive Approach

现有的用于时空预测的联邦学习（FL）方法未能捕捉内在的时空异质性，这需要个性化FL（PFL）方法来建模时空变异模式。虽然对比学习方法在解决时空异质性方面很有前途，但现有方法在确定负对时无效，几乎无法应用于PFL范例。为了解决这个限制，我们提出了一种新的PFL方法，称为基于联邦双重语义对齐的对比学习（FUELS），它可以根据语义相似性自适应地对齐正负对，从而通过辅助对比任务将精确的时空异质性注入潜在表示空间。从时间角度来看，引入了一个硬负过滤模块，动态地对齐异构的时间表示，用于补充客户端内对比任务。从空间角度来看，我们设计了轻量级但高效的原型作为客户端级别的语义表示，基于这些表示，服务器评估空间相似性，并为补充的客户间对比任务生成客户定制的全局原型。广泛的实验表明，FUELS优于现有的最先进方法，通信成本降低了约94%。

本论文旨在解决现有联邦学习方法在处理时空预测问题时无法捕捉内在时空异质性的问题，提出了个性化联邦学习方法，即FUELS，以建模时空变异模式。

FUELS方法通过语义相似性自适应地对齐正负样本，从而通过辅助对比任务将精确的时空异质性注入潜在表示空间。从时间和空间两个维度设计了对应的对比任务，提出了动态对齐异质性时间表示的负样本过滤模块和轻量级但高效的客户端原型。

论文在多个数据集上进行了实验，证明了FUELS方法在通信成本减少约94%的情况下优于现有方法。此外，论文还提供了开源代码和值得继续研究的方向。

最近的相关研究包括：Personalized Federated Learning with Theoretical Guarantees、Federated Learning with Matched Averaging、Federated Learning with Heterogeneous Data等。