Preventing Catastrophic Overfitting in Fast Adversarial Training: A Bi-level Optimization Perspective

对抗训练（AT）已成为对抗性样本（AEs）的有效防御方法，通常被构建为双层优化问题。在各种AT方法中，快速AT（FAT）采用单步攻击策略指导训练过程，可以以较低的成本实现对抗攻击的良好鲁棒性。然而，在复杂任务或大参数模型中，FAT方法容易遭受灾难性的过拟合问题。本文提出了一种称为FGSM-PCO的FAT方法，通过避免双层优化过程中内部优化问题的崩溃来缓解灾难性过拟合。FGSM-PCO从历史AEs生成当前阶段的AEs，并使用自适应机制将它们融入训练过程。该机制根据AEs在训练模型上的表现确定适当的融合比例。结合针对训练框架量身定制的损失函数，FGSM-PCO可以缓解灾难性过拟合，帮助过拟合模型恢复到有效的训练状态。我们在三个模型和三个数据集上评估了我们的算法，以验证其有效性。与其他FAT算法的比较实证研究表明，我们提出的方法有效地解决了现有算法中未解决的过拟合问题。

本论文旨在解决快速对抗训练（FAT）方法在复杂任务或大参数模型上存在的灾难性过拟合问题。

FGSM-PCO方法通过使用自适应机制将历史对抗性样本融合到当前阶段的训练中，以避免内部优化问题的崩溃，从而缓解灾难性过拟合问题。

论文提出的FGSM-PCO方法在三个模型和三个数据集上进行了评估，并与其他FAT算法进行了比较。实验结果表明，该方法有效地解决了现有算法中未解决的过拟合问题。

与本论文相关的研究包括：1.对抗训练方法的改进，如PGD、TRADES等；2.对抗样本的生成方法，如FGSM、BIM等。