From Optimization to Generalization: Fair Federated Learning against Quality Shift via Inter-Client Sharpness Matching

2024年04月27日
  • 简介
    由于日益增长的隐私问题,联邦学习已被认为是使用分散的医疗数据训练深度神经网络的重要方法。在实践中,确保各个机构的成像质量一致是具有挑战性的,这通常归因于影响少数客户的设备故障。图像质量的不平衡可能会导致联邦模型对更高质量的图像产生固有偏见,从而带来严重的公平性问题。在这项研究中,我们首创了在成像质量转移背景下识别和制定这一新的公平性挑战。在联邦学习中促进公平性的传统方法主要集中在平衡不同客户分布之间的经验风险上。这种策略主要有助于在不同的训练数据分布之间实现公平优化,但忽略了关键的泛化方面。为了解决这个问题,我们引入了一种解决方案,称为联邦学习与客户间锐度匹配(FedISM)。FedISM通过纳入锐度感知来增强本地训练和全局聚合,旨在协调客户之间的锐度水平以实现公平泛化。我们使用广泛使用的ICH和ISIC 2019数据集进行的实证评估证实了FedISM在促进公平方面优于当前最先进的联邦学习方法。代码可在https://github.com/wnn2000/FFL4MIA上获得。
  • 作者讲解
  • 图表
  • 解决问题
    论文旨在解决分布式医疗数据训练深度神经网络时,不同机构的影像质量差异导致模型存在偏差的公平性问题。
  • 关键思路
    提出一种名为FedISM的解决方案,通过锐度匹配来协调客户端之间的锐度水平,以实现公平的泛化。
  • 其它亮点
    实验使用ICH和ISIC 2019数据集,证明FedISM在促进公平性方面优于当前最先进的联邦学习方法。研究还开源了代码。
  • 相关研究
    与此相关的其他研究包括:《FedAvg与其他基于模型的联邦学习方法的比较》、《联邦学习的公平性:现状和未来研究方向》等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问