- 简介联邦学习被广泛用于处理分布式敏感数据。现有方法主要集中于解决联邦内数据异构性问题。然而,我们发现当应用于联邦外(OOF)泛化的未知客户端时,它们会遭受显著的性能下降。最近为了解决泛化到未知客户端的问题,通常会遇到高通信或计算成本的大规模分布式设置的挑战。此外,那些能够很好地扩展的方法通常表现出较差的泛化能力。为了以可扩展的方式实现OOF弹性,我们提出了一种名为拓扑感知联邦学习(TFL)的方法,它利用客户端拓扑 - 代表客户端关系的图形 - 来有效地训练针对OOF数据的强健模型。我们为TFL制定了一个新的优化问题,由两个关键模块组成:客户端拓扑学习,以隐私保护的方式推断客户端关系,以及在客户端拓扑上学习,利用学习到的拓扑来识别有影响力的客户端,并将这些信息纳入FL优化过程中,以高效地构建强健模型。在各种真实世界数据集上的实证评估验证了TFL的优越的OOF弹性和可扩展性。
- 图表
- 解决问题本论文旨在解决现有联邦学习方法在处理未知客户端数据时性能下降的问题,提出了一种基于客户端拓扑结构的联邦学习方法。
- 关键思路论文提出了一种名为拓扑感知联邦学习的方法,该方法利用客户端拓扑结构来训练鲁棒性模型以应对未知客户端数据。该方法包括两个关键模块:客户端拓扑结构学习和基于客户端拓扑结构的学习。
- 其它亮点论文通过实验验证了拓扑感知联邦学习方法在应对未知客户端数据时的优越性和可扩展性。实验使用了多个真实世界数据集,并证明了该方法的鲁棒性和可扩展性。论文还提供了开源代码。
- 在这个领域中,最近的相关研究包括:《Federated Learning with Matched Averaging》、《FedProx: Federated Optimization on Proximal Terms》、《Communication-Efficient Learning of Deep Networks from Decentralized Data》等。
沙发等你来抢
去评论
评论
沙发等你来抢