FedSR: A Semi-Decentralized Federated Learning Algorithm for Non-IIDness in IoT System

在工业物联网中，每天都会产生大量的数据。由于隐私和安全问题，很难将所有这些数据收集在一起来训练深度学习模型，因此联邦学习被广泛应用于物联网中，它是一种保护数据隐私的分布式机器学习范式。然而，在实际的联邦学习中，设备之间的数据分布通常存在很大差异，数据的异构性会降低模型的性能。此外，在物联网中进行联邦学习通常涉及大量设备的训练，云服务器的通信资源受到限制，成为训练的瓶颈。为解决上述问题，本文将集中式联邦学习和分散式联邦学习相结合，设计了一个半分散式云边设备分层联邦学习框架，可以缓解数据异构性的影响，并可以在物联网中大规模部署。为了解决数据异构性的影响，我们在每个环簇中使用增量子梯度优化算法来提高环簇模型的泛化能力。我们广泛的实验表明，我们的方法可以有效地缓解数据异构性的影响，并缓解云服务器中的通信瓶颈。

设计一种半分散化云-边缘-设备分层联邦学习框架，以解决物联网中数据异构和通信瓶颈的问题。

将集中式联邦学习与分散式联邦学习相结合，使用增量次梯度优化算法来提高环形群集模型的泛化能力。

论文的实验结果表明，该方法可以有效地缓解数据异构的影响，并减轻云服务器中的通信瓶颈。

最近的相关研究包括：《Federated Learning for Wireless Communications: Motivation, Opportunities and Challenges》、《Efficient Federated Learning via Hierarchical Clustering and Differential Privacy》等。