HiddenSpeaker: Generate Imperceptible Unlearnable Audios for Speaker Verification System

近年来，深度神经网络的显著进步带来了巨大的便利。然而，高效模型的训练过程需要大量的样本，这带来了巨大的潜在威胁，如未经授权的利用和隐私泄露。为此，我们提出了一个名为HiddenSpeaker的框架，将不可感知的扰动嵌入训练语音样本中，并使它们对于采用大规模发言人进行高效训练的基于深度学习的说话人验证系统不可学习。HiddenSpeaker利用简化的误差最小化方法（SLEM）生成特定和有效的扰动。此外，采用混合目标函数进行人类感知优化，确保扰动不可区分于人类听众。我们在多个最先进的说话人验证领域的SOTA模型上进行了大量实验，以评估HiddenSpeaker。我们的结果表明，HiddenSpeaker不仅用不可学习的样本欺骗了模型，而且增强了扰动的不可感知性，展示了在不同模型之间的强大可转移性。

论文旨在解决使用大量训练样本进行训练的深度学习说话人验证系统可能导致隐私泄露的问题，提出了一种名为HiddenSpeaker的框架来生成不可学习的样本。

HiddenSpeaker利用Single-Level Error-Minimizing（SLEM）方法生成特定有效的扰动，并采用混合目标函数进行人类感知优化，确保扰动不可区分。

论文在多个最先进的说话人验证模型上进行了广泛的实验，结果表明HiddenSpeaker不仅可以欺骗模型，使其无法学习样本，还可以提高扰动的不可感知性，并展示了在不同模型之间的强大可转移性。

最近的相关研究包括使用对抗性样本来攻击深度学习说话人验证系统的研究，如Adversarial Attacks against Automatic Speaker Verification Systems Using Variational Autoencoders和Deep Speaker Embeddings for Diarization and Verification等。