Assessing Adversarial Robustness of Large Language Models: An Empirical Study

大型语言模型（LLMs）已经彻底改变了自然语言处理，但它们对抵御对抗攻击的鲁棒性仍然是一个关键问题。我们提出了一种新的白盒攻击方法，揭示了领先的开源LLMs（包括Llama、OPT和T5）的漏洞。我们评估了模型大小、结构和微调策略对它们抵御对抗扰动的影响。我们在五个不同的文本分类任务上进行了全面评估，建立了LLM鲁棒性的新基准。本研究的发现对于可靠地部署LLMs到实际应用中具有深远的影响，并有助于推动可信AI系统的发展。

论文旨在评估当前主流开源大型语言模型的鲁棒性，揭示其面临的对抗攻击漏洞，并探索模型大小、结构和微调策略对鲁棒性的影响。

论文提出了一种新的白盒式攻击方法，通过对抗攻击暴露出Llama、OPT和T5等主流开源大型语言模型的漏洞，并在五个不同的文本分类任务上对其鲁棒性进行了全面评估。

实验结果表明，当前主流的大型语言模型在面对对抗攻击时存在较大的漏洞，这对于其在实际应用中的可靠性提出了挑战。论文的攻击方法和评估方法为该领域的研究提供了新的思路和基准。论文还提供了开源的代码和数据集，以便其他研究者可以复现和扩展这项工作。

近期的相关研究包括使用对抗训练来提高模型的鲁棒性、研究对抗攻击的生成模型以及探索对抗攻击的防御方法等。例如，'Adversarial Training Methods for Semi-Supervised Text Classification'、'Generating Natural Adversarial Examples'等。