From Attack to Defense: Insights into Deep Learning Security Measures in Black-Box Settings

深度学习（DL）正在迅速成熟，可以在安全和安全关键应用中使用。然而，对于人眼不可检测的对抗样本构成了严重威胁，可能导致模型失效并危及这些应用的性能。解决DL模型的鲁棒性已成为理解和防御对抗攻击的关键。在本研究中，我们进行了全面的实验，以研究对不同模型架构和知名数据集的对抗攻击和防御的影响。我们的研究重点是黑盒攻击，如SimBA、HopSkipJump、MGAAttack和边界攻击，以及基于预处理器的防御机制，包括位挤压、中值平滑和JPEG过滤。通过实验不同模型，我们的结果表明，攻击所需的噪声水平随着层数的增加而增加。此外，随着层数的增加，攻击成功率会降低。这表明模型复杂性和鲁棒性之间存在重要关系。通过研究多样性和鲁棒性的关系，我们对多种模型进行的实验表明，具有大量参数并不意味着更高的鲁棒性。我们的实验还展示了训练数据集对模型鲁棒性的影响。使用各种数据集，例如ImageNet-1000、CIFAR-100和CIFAR-10，来评估黑盒攻击。考虑到我们分析的多个维度，例如模型复杂性和训练数据集，我们研究了模型应用防御时黑盒攻击的行为。我们的结果表明，应用防御策略可以显著降低攻击的有效性。这项研究提供了关于DL模型对各种攻击和防御的鲁棒性的深入分析和见解。

研究深度学习模型的鲁棒性，解决对抗样本攻击的问题。

通过对不同模型架构和数据集的全面实验，发现模型复杂度与鲁棒性之间存在显著关系，同时应用防御策略可以显著降低攻击的效果。

实验使用了多个数据集，包括ImageNet-1000、CIFAR-100和CIFAR-10，探究了不同模型架构和训练数据对鲁棒性的影响，同时提出了多种防御策略。研究结果表明，模型复杂度与鲁棒性之间存在显著关系，防御策略可以显著降低攻击的效果。

相关研究包括：SimBA、HopSkipJump、MGAAttack和边界攻击等黑盒攻击方法，以及比特挤压、中值平滑和JPEG滤波等预处理防御机制。