Backdoor Attack on Multilingual Machine Translation

我们的研究表明，虽然多语言机器翻译（MNMT）系统具有很大的潜力，但也存在安全漏洞。攻击者可以通过向低资源语言对中注入有毒数据来对其他语言进行恶意翻译，包括高资源语言，从而使MNMT系统容易受到后门攻击。我们的实验结果显示，向低资源语言对注入少于0.01%的有毒数据可以在攻击高资源语言对时实现平均20%的攻击成功率。由于低资源环境下的语言攻击面更大，因此这种类型的攻击尤其令人担忧。我们的目的是引起人们对MNMT系统中这些漏洞的关注，希望鼓励社区解决机器翻译的安全问题，特别是在低资源语言的情况下。

多语言机器翻译系统存在安全漏洞，本文试图揭示这些漏洞并提醒学术界和工业界应对这些问题。

通过向低资源语言对中注入毒数据，攻击者可以在高资源语言对中实现恶意翻译。本文提出了一种检测和防御这种攻击的方法。

实验结果表明，注入少于0.01%的毒数据就可以在高资源语言对中实现20%的攻击成功率。本文的方法可以检测和防御这种攻击，可以为机器翻译系统的安全提供保障。

最近的相关研究主要集中在机器学习模型的安全性上，例如对抗样本和后门攻击等。