Virtual Context: Enhancing Jailbreak Attacks with Special Token Injection

这篇文章讨论了对大型语言模型（LLMs）进行越狱攻击的问题，这种攻击会诱使模型生成违反道德或法律的有害内容，对LLM安全构成重大威胁。当前的越狱攻击面临两个主要挑战：由于防御措施，成功率较低，以及需要消耗大量资源来制定特定的提示。本文介绍了Virtual Context，它利用LLM安全方面先前被忽视的特殊标记，以改进越狱攻击。Virtual Context通过显著提高现有越狱方法的成功率，并要求对目标模型的背景知识最小化，从而提高黑盒设置下的有效性，而不需要额外的开销。全面的评估表明，Virtual Context辅助的越狱攻击可以在各种LLMs上将四种广泛使用的越狱方法的成功率提高约40％。此外，将Virtual Context应用于原始的恶意行为仍然可以实现显着的越狱效果。总之，我们的研究强调了在越狱攻击中特殊标记的潜力，并建议将此威胁包括在红队测试中，以全面增强LLM安全性。

本文旨在解决大型语言模型（LLMs）的越狱攻击问题，这种攻击可能会导致LLMs生成违反伦理或法律的有害内容，对LLMs的安全构成重大威胁。当前的越狱攻击面临两个主要挑战：由于防御措施的存在，成功率较低，而针对特定提示的高资源需求。这篇论文提出了Virtual Context，利用先前在LLM安全方面被忽视的特殊标记，改进了越狱攻击。Virtual Context通过显著提高现有越狱方法的成功率，并要求对目标模型的背景知识最少，从而增强黑盒设置中的有效性而不需要额外的开销。

本文的关键思路是使用Virtual Context来提高越狱攻击的成功率，这是一种利用先前被忽视的特殊标记的方法，通过增加虚拟上下文来增强攻击的有效性。

本文提出的Virtual Context-assisted越狱攻击方法可以在各种LLMs上将四种广泛使用的越狱方法的成功率提高约40％。此外，将Virtual Context应用于原始的恶意行为仍然可以实现显着的越狱效果。本文的实验设计充分，使用了多个数据集进行评估，并提供了开源代码。本研究的亮点在于发现了特殊标记在越狱攻击中的潜在威胁，并建议在红队测试中包括这种威胁以全面增强LLM的安全性。

在这个领域中，最近的相关研究包括《Generating Adversarial Examples with Adversarial Networks》、《TextBugger: Generating Adversarial Text Against Real-world Applications》和《Generating Natural Language Adversarial Examples through Probability Weighted Word Saliency》等。