- 简介随机平滑是一种防御技术,可以增强神经网络模型对抗性样本的鲁棒性,这些样本是小的输入扰动,会降低模型的性能。传统的随机平滑为每个输入样本添加固定噪声水平的随机噪声,以平滑出对抗性扰动。本文提出了一个新的变分框架,通过引入噪声水平选择器,使用适合每个输入的每个样本噪声水平。我们的实验结果表明,我们的方法可以增强对抗性攻击的经验鲁棒性。我们还提供和分析了我们样本级平滑方法的认证鲁棒性。
-
- 图表
- 解决问题提高神经网络对抗攻击的鲁棒性
- 关键思路引入噪声水平选择器,为每个输入样本选择合适的噪声水平进行样本级平滑,从而提高对抗攻击的鲁棒性
- 其它亮点实验结果表明,该方法能够提高神经网络对抗攻击的鲁棒性,同时还提供了经过认证的鲁棒性。此外,论文还提供了开源代码和使用的数据集。
- 与该论文相关的研究包括:1. Adversarial Training Methods for Semi-Supervised Text Classification(针对文本分类的对抗训练方法);2. Adversarial Robustness via Label-Smoothing(通过标签平滑提高鲁棒性的对抗性研究);3. Certified Adversarial Robustness via Randomized Smoothing(通过随机平滑提高鲁棒性的对抗性研究)等。
NEW
提问交流
提交问题,平台邀请作者,轻松获得权威解答~
向作者提问

提问交流