Lurking in the shadows: Unveiling Stealthy Backdoor Attacks against Personalized Federated Learning

本文介绍了联邦学习（FL）的概念，它是一种协作机器学习技术，多个客户端与中央服务器一起训练一个全局模型，而不共享私有数据。然而，客户端非独立同分布数据集的分布差异对这种一模式适用所有方法构成了挑战，阻碍了全局模型有效适应每个客户端独特的本地数据的能力。为了解决这一挑战，设计了个性化FL（PFL），允许每个客户端创建定制的本地模型，以适应其私有数据。虽然广泛的研究已经审查了FL中的后门风险，但在PFL应用中仍未得到充分的探索。本研究深入探讨了PFL对后门攻击的漏洞。我们的分析展示了两个城市的故事。一方面，PFL中的个性化过程可以稀释注入到个性化本地模型中的后门毒化效果。此外，PFL系统还可以部署服务器端和客户端的防御机制，以加强对后门攻击的屏障。另一方面，我们的研究表明，加强这些防御方法的PFL可能会提供一种虚假的安全感。我们提出了PFedBA，一种隐蔽而有效的后门攻击策略，适用于PFL系统。PFedBA通过优化触发器生成过程，巧妙地将后门学习任务与PFL的主要学习任务对齐。我们的全面实验证明了PFedBA在将触发器无缝嵌入个性化本地模型方面的有效性。PFedBA在10种最先进的PFL算法中表现出优异的攻击性能，击败了现有的6种防御机制。我们的研究揭示了对PFL系统的微妙而强大的后门威胁，敦促社区加强对新兴后门挑战的防御。

研究个性化联邦学习（PFL）在面临后门攻击时的脆弱性，提出了一种名为PFedBA的隐蔽有效的后门攻击策略。

PFedBA通过优化触发器生成过程，将后门学习任务与PFL的主要学习任务相结合，实现在个性化本地模型中无缝嵌入触发器。

论文展示了PFL中的个性化过程可以稀释注入到个性化本地模型中的后门污染效果，PFL系统可以部署服务端和客户端的防御机制来加强防御。但是，PFedBA攻击策略可以绕过这些防御机制，论文在10种最先进的PFL算法上进行了全面实验，证明了PFedBA的有效性和隐蔽性。

近期的相关研究包括《FedBA: A Federated Learning Backdoor Attack》、《Backdoor Attacks on Federated Learning Based Recommender Systems》等。