Trading Devil: Robust backdoor attack via Stochastic investment models and Bayesian approach

随着语音激活系统和语音识别技术的不断普及，音频数据的后门攻击危险性显著增加。本研究探讨了一种特定类型的攻击，称为随机投资型后门攻击（MarketBack），攻击者通过策略性地操纵音频的风格属性来欺骗语音识别系统。后门攻击严重威胁着机器学习模型的安全和完整性，为了保持音频应用和系统的可靠性，识别此类攻击在音频数据的背景下变得至关重要。实验结果表明，MarketBack在污染不到1%的训练数据时，可实现对七个受害模型的平均攻击成功率接近100%。

论文研究的问题是如何应对音频数据中的后门攻击，这是一个新的问题。

论文提出了一种名为MarketBack的随机投资型后门攻击方法，通过操纵音频的风格属性来欺骗语音识别系统，以此来保证机器学习模型的安全性和完整性。

论文的实验结果表明，当污染少于1％的训练数据时，MarketBack攻击可以在七个受害模型中实现接近100％的攻击成功率。该论文提供了开源代码，并且提出了一些值得深入研究的问题，例如如何防止后门攻击。

最近在这个领域中的相关研究包括：'Badnets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain'，'Deep Residual Learning for Small-Footprint Keyword Spotting'，'The Limitations of Deep Learning in Adversarial Settings'等。