Saliency Attention and Semantic Similarity-Driven Adversarial Perturbation

本文介绍了一种增强文本对抗攻击方法，称为Saliency Attention and Semantic Similarity driven adversarial Perturbation (SASSP)。该方法旨在通过整合显著性、注意力和语义相似性来提高上下文扰动的有效性。传统的对抗攻击方法往往难以在有效欺骗目标模型的同时保持语义一致性和连贯性。我们提出的方法通过采用三重策略进行词语选择和扰动来解决这些挑战。首先，我们利用基于显著性的词语选择来根据它们对模型预测的重要性对词语进行优先修改。其次，我们采用注意力机制来集中扰动在上下文中具有重要意义的词语上，从而增强攻击的有效性。最后，我们采用先进的语义相似性检测方法，包括基于嵌入的相似性和释义检测。通过利用类似Sentence-BERT的模型进行嵌入相似性和从Sentence Transformers库微调的释义检测模型，该方法确保扰动后的文本在上下文中仍然合适，并且与原始文本在语义上保持一致。实证评估表明，SASSP生成的对抗性示例不仅保持高度的语义保真度，而且还能有效欺骗最先进的自然语言处理模型。此外，与上下文扰动CLARE的原始方案相比，SASSP具有更高的攻击成功率和更低的词语扰动率。

本文提出了一种增强的文本对抗攻击方法，旨在解决传统对抗攻击方法在欺骗目标模型的同时难以保持语义一致性和连贯性的问题。

本文提出了一种三重策略的单词选择和扰动方法，利用显著性、注意力和语义相似性来提高上下文扰动的效果。其中，基于显著性的单词选择方法可以根据单词对模型预测的重要性对单词进行优先排序；注意力机制可以使扰动集中在上下文中具有重要意义的单词上，从而提高攻击的效果；最后，利用嵌入相似性和释义检测等高级语义相似性检测方法，确保扰动后的文本与原始文本在语义上保持一致。

本文的亮点包括：1.提出了一种三重策略的单词选择和扰动方法，有效提高了攻击的效果；2.利用了Sentence-BERT等模型来检测语义相似性，确保扰动后的文本与原始文本在语义上保持一致；3.实验结果表明，与传统的CLARE方法相比，本文提出的SASSP方法具有更高的攻击成功率和更低的单词扰动率。

在这个领域中，最近的相关研究包括：1. CLARE方法，是本文提出方法的基础；2. SENT方法，利用句子级别的特征来生成对抗样本；3. PWWS方法，利用音位和词汇相似度来生成对抗样本。