Introducing Adaptive Continuous Adversarial Training (ACAT) to Enhance ML Robustness

机器学习（ML）容易受到对抗性攻击的影响，这些攻击旨在欺骗ML模型，使其产生错误的预测。已经发现对抗性训练可以增加ML模型对这些攻击的强度。然而，在网络和网络安全领域，获取标记的训练和对抗性训练数据是具有挑战性和昂贵的。此外，概念漂移加深了这一挑战，特别是在像网络和网络安全这样的动态领域中，需要各种模型进行定期重新训练。本文介绍了自适应连续对抗性训练（ACAT），以在进行持续学习会话期间不断将对抗性训练样本集成到模型中，使用实际检测到的对抗性数据，以增强模型抵御不断发展的对抗性威胁的韧性。ACAT是一种自适应的防御机制，利用定期重新训练来有效对抗对抗性攻击，同时减轻灾难性遗忘。我们的方法还减少了对抗性样本检测所需的总时间，特别是在网络安全等环境中，攻击率可能非常高。涉及两个阶段的传统检测过程可能导致冗长的程序。使用SPAM检测数据集的实验结果表明，使用ACAT后，SPAM过滤器的准确性从69％提高到仅经过三次重新训练后超过88％。此外，在某些情况下，ACAT优于传统的对抗性样本检测器，提供更快的决策时间，最多快四倍。

本论文旨在提出一种新的方法，名为自适应连续对抗训练（ACAT），以提高机器学习模型对不断变化的对抗性威胁的鲁棒性，同时减少对标记训练数据和对抗训练数据的需求。

ACAT通过在进行持续学习会话期间不断将检测到的真实世界对抗样本集成到模型中，来增强模型对不断变化的对抗性威胁的鲁棒性。该方法采用周期性重新训练来有效地对抗对抗攻击，同时减轻灾难性遗忘。

论文使用了SPAM检测数据集进行实验，结果表明，在仅进行三次重新训练后，使用ACAT的SPAM过滤器的准确性从69％提高到超过88％。此外，ACAT优于传统的对抗样本检测器，在一些情况下决策时间快了四倍。本文的方法可以减少对标记训练数据和对抗训练数据的需求，同时提高模型的鲁棒性。

最近在这个领域中，还有一些相关研究。例如，2018年的一篇论文“Adversarial Training Methods for Semi-Supervised Text Classification”提出了一种基于对抗训练的半监督文本分类方法。还有一篇名为“Adversarial Defense by Restricting the Hidden Space of Deep Neural Networks”的论文，提出了一种新的对抗性防御方法，通过限制深度神经网络的隐藏空间来提高模型的鲁棒性。