A Stealthy Backdoor Attack for Without-Label-Sharing Split Learning

分散学习是一种新的隐私保护范式，旨在降低客户端计算成本并实现数据效用，已在智能医疗和智能交通等各个领域得到广泛应用。虽然最近的研究主要集中在解决分散学习中的隐私泄露问题，如推理攻击和数据重构，但在分散学习框架内探索安全问题（例如后门攻击）的研究相对较少。然而，分散学习背景下的安全漏洞极具威胁性，可能引起严重的安全后果，例如在面部识别模型中进行非法冒充。因此，在本文中，我们提出了一种针对无标签共享分散学习架构量身定制的隐蔽后门攻击策略（称为SBAT），揭示了分散学习的固有安全漏洞。我们假设服务器端存在一个潜在的攻击者，旨在将后门引入训练模型，并探索了两种情况：一种是已知客户端网络架构，另一种是未知架构。与传统的操纵训练数据和标签的后门攻击方法不同，我们通过将触发嵌入式注入到服务器网络中来构造后门攻击。具体而言，我们的SBAT通过在训练过程中不修改任何中间参数（例如梯度），而是在训练后执行所有恶意操作，从而实现更高水平的攻击隐蔽性。

本文旨在探讨分布式学习（split learning）框架中的安全问题，特别是背门攻击（backdoor attacks）的问题。该问题会对人脸识别等应用产生严重的安全威胁。

本文提出了一种名为SBAT的背门攻击策略，该策略针对没有标签共享的分布式学习架构。攻击者通过在服务器网络中注入触发嵌入，而不是传统的操纵训练数据和标签来实施背门攻击，从而实现更高级别的攻击隐蔽性。

本文的亮点在于提出了一种新的背门攻击策略，该策略在攻击隐蔽性方面具有优势。实验使用了MNIST和CIFAR-10数据集，并展示了SBAT的有效性。本文提出的SBAT策略可以用于检测和防御背门攻击。

最近的相关研究主要集中在解决分布式学习中的隐私泄露问题，如推理攻击和数据重构，而在分布式学习框架内探索安全问题（如背门攻击）的研究相对较少。