Real is not True: Backdoor Attacks Against Deepfake Detection

恶意深度伪造应用程序的泛滥引发了大量公众担忧，对数字媒体的完整性产生了怀疑。尽管已经开发出了熟练的深度伪造检测机制，但它们仍然表现出明显的脆弱性，容易受到各种攻击。值得注意的是，现有攻击手段主要由对抗性示例攻击组成，主要在测试阶段表现出来。在本研究中，我们引入了一种被称为Bad-Deepfake的开创性范例，它代表了对针对深度伪造检测器的后门攻击领域的新探索。我们的方法依赖于对训练数据的一个有限的子集的战略性操纵，使我们能够对训练模型的操作特性产生不成比例的影响。这种操纵利用了深度伪造检测器固有的脆弱性，使我们能够设计触发器并精心选择最有效的样本来构建受污染的集合。通过这些复杂技术的协同融合，我们实现了一个令人瞩目的表现——对广泛使用的深度伪造检测器的攻击成功率（ASR）达到了100%。

该论文旨在解决深度伪造检测器容易受到后门攻击的问题，提出了一种新的Bad-Deepfake范例，用于攻击深度伪造检测器。这是否是一个新问题？

Bad-Deepfake范例是一种针对深度伪造检测器的后门攻击，通过操纵训练数据集的子集来影响模型的操作特性，利用深度伪造检测器的弱点来构建毒化数据集。相比当前的研究，这篇论文提出了一种新的攻击方法，可以实现100%的攻击成功率。

该论文的实验结果表明，Bad-Deepfake范例可以成功攻击多种深度伪造检测器，实现了100%的攻击成功率。论文还提出了一种新的数据选择方法，用于构建毒化数据集。此外，论文还探讨了Bad-Deepfake范例的潜在应用和防御方法。

在这个领域中，最近还有一些相关的研究，如“DeepSloth: A Comprehensive Study of Deepfake Detection Methods”，“Deepfake Video Detection Using Recurrent Neural Networks”，“Towards Automatic Detection of Deepfake Videos: A Review”。