Adversarial Evasion Attack Efficiency against Large Language Models

大型语言模型（LLMs）在文本分类中非常有价值，但它们的漏洞不能被忽视。它们对抗对抗性示例的鲁棒性不足，因此必须了解不同类型扰动的影响，并评估这些攻击是否可以通过少量扰动和少量查询由普通用户复制到部署的LLM中。本文在情感分类任务中对五种不同的LLMs进行了三种不同类型的对抗性攻击的有效性、效率和实用性分析。实验结果表明了单词级和字符级攻击的非常不同的影响。单词攻击更有效，但字符级和更受限制的攻击更实用，需要较少的扰动和查询。在开发对抗性防御策略以训练更强大的LLMs用于智能文本分类应用时，需要考虑这些差异。

在文本分类中，大型语言模型（LLMs）容易受到对抗性样本的攻击，本文旨在分析三种不同类型对抗攻击的有效性、效率和实用性，以验证攻击是否能被普通用户轻易地复制并对部署的LLMs造成影响。

通过对五种LLMs在情感分类任务中的对抗攻击实验，本文发现单词级别攻击更加有效，但字符级别和更加约束的攻击更加实用。这些差异需要在开发对抗性防御策略时予以考虑，以训练更加健壮的LLMs。

本文通过实验验证了不同类型对抗攻击的有效性、效率和实用性，并提出了对抗性防御策略的开发思路。实验使用了五种LLMs和情感分类任务数据集，并开源了代码。

最近的相关研究包括： 1. "Adversarial Attacks on Neural Networks for Graph Data: A Survey" 2. "Adversarial Attacks and Defenses in Images, Graphs and Text: A Review"