• A Context Aware Approach for Generating Natural Language Attacks
  • Rishabh maheshary, Saket maheshary, Vikram Pudi
  • 2020/08
  • 本文发表在AAAI2021。研究了黑盒环境下的自然语言处理模型攻击问题。在文本分类和蕴涵任务中，提出了一种利用语义相似的对抗例子的攻击策略。提出的攻击方法是通过同时考虑原词及其周围上下文的信息来寻找候选词。模型联合利用了掩蔽语言建模和下一个句子预测来理解上下文。与以前的攻击方法相比，更能够生成高质量的对抗例子，在成功率和单词干扰百分比方面都做得明显更好。

内容中包含的图片若涉及版权问题，请及时与我们联系删除