Variational Randomized Smoothing for Sample-Wise Adversarial Robustness

2024年07月16日
  • 简介
    随机平滑是一种防御技术,可以增强神经网络模型对抗性样本的鲁棒性,这些样本是小的输入扰动,会降低模型的性能。传统的随机平滑为每个输入样本添加固定噪声水平的随机噪声,以平滑出对抗性扰动。本文提出了一个新的变分框架,通过引入噪声水平选择器,使用适合每个输入的每个样本噪声水平。我们的实验结果表明,我们的方法可以增强对抗性攻击的经验鲁棒性。我们还提供和分析了我们样本级平滑方法的认证鲁棒性。
  • 作者讲解
  • 图表
  • 解决问题
    提高神经网络对抗攻击的鲁棒性
  • 关键思路
    引入噪声水平选择器,为每个输入样本选择合适的噪声水平进行样本级平滑,从而提高对抗攻击的鲁棒性
  • 其它亮点
    实验结果表明,该方法能够提高神经网络对抗攻击的鲁棒性,同时还提供了经过认证的鲁棒性。此外,论文还提供了开源代码和使用的数据集。
  • 相关研究
    与该论文相关的研究包括:1. Adversarial Training Methods for Semi-Supervised Text Classification(针对文本分类的对抗训练方法);2. Adversarial Robustness via Label-Smoothing(通过标签平滑提高鲁棒性的对抗性研究);3. Certified Adversarial Robustness via Randomized Smoothing(通过随机平滑提高鲁棒性的对抗性研究)等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问