Emulating Full Client Participation: A Long-Term Client Selection Strategy for Federated Learning

2024年05月22日
  • 简介
    客户端的选择对联邦学习系统的收敛效率有着重要的影响,是联邦学习中的一个关键问题。现有的方法通常通过对每一轮进行评估来选择客户端,忽略了长期优化的必要性,导致性能不佳和潜在的公平性问题。在本研究中,我们提出了一种新颖的客户端选择策略,旨在模拟全面客户端参与所实现的性能。在单轮中,我们通过最小化客户端子集和完整客户端集之间的梯度空间估计误差来选择客户端。在多轮选择中,我们引入了一种新颖的个体公平约束,确保具有类似数据分布的客户端具有类似的被选择频率。这个约束从长期的角度指导客户端选择过程。我们采用Lyapunov优化和子模函数来高效地识别最佳的客户端子集,并提供收敛能力的理论分析。实验表明,与以往的方法相比,所提出的策略在提高准确性和公平性方面都有显著的改进,同时还表现出高效性,几乎没有时间开销。
  • 图表
  • 解决问题
    提高联邦学习的收敛效率和公平性问题。
  • 关键思路
    通过最小化客户端子集与完整客户端集之间的梯度空间估计误差来选择客户端,同时引入个体公平性约束,从长期的角度指导客户端选择过程。
  • 其它亮点
    使用Lyapunov优化和子模函数高效地识别最优客户端子集,并提供收敛能力的理论分析。实验表明,该策略相对于先前的方法显着提高了准确性和公平性,同时在时间开销方面表现出高效性。
  • 相关研究
    与联邦学习中的客户端选择相关的其他研究包括:FedAvg、FedProx和FedCS等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论