A Learning-Based Attack Framework to Break SOTA Poisoning Defenses in Federated Learning

Federated Learning（FL）是一种新颖的客户端-服务器分布式学习框架，可以保护数据隐私。然而，最近的研究表明，FL容易受到恶意攻击。许多具有强大聚合器（AGRs）的防御措施被提出来以减轻这个问题，但是它们都被高级攻击攻破了。最近，一些更新的强大聚合器被设计出来，通常采用新颖的剪辑或/和过滤策略，并且它们显示出有希望的防御性能来抵抗高级恶意攻击。在本文中，我们展示了这些新颖的强大聚合器也容易受到精心设计的恶意攻击。具体来说，我们观察到打破这些强大聚合器变成了绕过恶意客户端的剪辑或/和过滤，因此提出了一种基于优化的攻击框架来利用这个观察结果。在这个框架下，我们针对每个强大的聚合器设计了定制化攻击。在多个数据集和威胁模型的广泛实验中，验证了我们提出的基于优化的攻击可以打破目前最先进的聚合器。因此，我们呼吁对FL进行新的防御来防范恶意攻击。代码可在以下网址找到：https://github.com/Yuxin104/BreakSTOAPoisoningDefenses。

针对联邦学习中的恶意攻击，论文试图验证最新的防御机制是否有效。

通过优化算法攻击最新的联邦学习防御机制，发现这些机制仍然容易受到恶意攻击。

论文提出了一种基于优化算法的攻击框架，可以成功攻击最新的联邦学习防御机制。实验使用了多个数据集，并提供了开源代码。

最近的相关研究主要集中在联邦学习中的隐私保护和恶意攻击防御。