Hard-label based Small Query Black-box Adversarial Attack

IEEE/CVF Winter Conference on Applications of Computer Vision, 2024
2024年03月09日
  • 简介
    我们考虑基于硬标签的黑盒对抗攻击设置,该设置仅观察目标模型的预测类别。在此设置下,大多数攻击方法需要过多的查询才能实现成功的攻击,因此存在实际应用上的问题。其中一种解决这个缺点的方法是利用白盒替代模型和黑盒目标模型之间的对抗可迁移性。然而,采用这种方法的大部分方法都是基于软标签的,以充分利用零阶优化。与主流方法不同,我们提出了一种新的实用设置,即基于硬标签的攻击,并通过预训练的替代模型指导优化过程。实验证明,所提出的方法显著提高了在各种目标模型架构下基于硬标签的黑盒攻击的查询效率。我们发现,与基准相比,所提出的方法在100和250的小查询预算下攻击成功率提高了约5倍。
  • 图表
  • 解决问题
    本文旨在解决黑盒对抗攻击中的查询效率问题,提出了一种基于硬标签的攻击方法,并利用预训练的白盒代理模型指导优化过程。
  • 关键思路
    本文提出了一种基于硬标签的攻击方法,该方法利用预训练的白盒代理模型指导优化过程,以提高黑盒对抗攻击的查询效率。
  • 其它亮点
    实验结果表明,相较于基准方法,该方法在较小的查询预算下攻击成功率提高了约5倍。本文的贡献是提出了一种新的实用的硬标签攻击设置,并利用预训练的代理模型提高了查询效率。
  • 相关研究
    最近的相关研究包括基于软标签的黑盒对抗攻击方法,以及利用白盒代理模型提高黑盒攻击效率的方法。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论