Evaluating Adversarial Robustness: A Comparison Of FGSM, Carlini-Wagner Attacks, And The Role of Distillation as Defense Mechanism

这份技术报告深入探讨了专门针对用于图像分类的深度神经网络（DNN）的对抗性攻击，并研究了旨在增强机器学习模型鲁棒性的防御机制。研究重点在于理解两种著名攻击方法（快速梯度符号法（FGSM）和Carlini-Wagner（CW）方法）的影响。这些攻击是针对三个预训练的图像分类器（Resnext50_32x4d，DenseNet-201和VGG-19）使用Tiny-ImageNet数据集进行研究的。此外，该研究提出了防御蒸馏作为一种防御机制，以对抗FGSM和CW攻击。该防御机制使用CIFAR-10数据集进行评估，其中CNN模型，特别是resnet101和Resnext50_32x4d，分别充当教师和学生模型。所提出的防御蒸馏模型在阻止FGSM等攻击方面表现出有效性。然而，它仍然容易受到更复杂的技术（如CW攻击）的攻击。该文档提供了对所提出的方案的细致验证，并详细阐述了所采用的防御机制的有效性和局限性。通过严格的实验和分析，该研究提供了有关对DNN的对抗性攻击的动态以及防御策略在减轻其影响方面的见解。

本文旨在探讨对深度神经网络（DNN）进行的针对性对抗攻击以及针对这些攻击的防御机制，重点研究了两种攻击方法：快速梯度符号法（FGSM）和Carlini-Wagner（CW）方法。

本文提出了一种新的防御机制——防御蒸馏，并在CIFAR-10数据集上对其进行了评估。实验结果表明，防御蒸馏能够有效地抵御FGSM攻击，但对于更复杂的CW攻击仍然存在漏洞。

本文使用Tiny-ImageNet数据集对三种预训练图像分类器进行了测试，使用了CNN模型resnet101和Resnext50_32x4d作为教师和学生模型。实验结果详细、全面地阐明了所采用的防御机制的功效和局限性。

与本文相关的研究包括：Madry等人关于对抗性训练的研究；Goodfellow等人提出的FGSM攻击方法；Carlini和Wagner提出的CW攻击方法。