Lockpicking LLMs: A Logit-Based Jailbreak Using Token-level Manipulation

大型语言模型（LLMs）已经彻底改变了自然语言处理领域，但它们仍然容易受到越狱攻击，这些攻击利用它们生成意外和潜在有害内容的能力。现有的基于单词级别的越狱技术虽然有效，但在模型频繁更新和整合高级防御措施时面临可扩展性和效率方面的挑战。在本文中，我们介绍了JailMine，一种创新的基于单词级别的操作方法，有效地解决了这些限制。JailMine采用自动化的“挖掘”过程，通过策略性地选择肯定的输出并迭代地降低拒绝的可能性，从而引出LLMs的恶意响应。通过在多个知名LLMs和数据集上进行严格测试，我们展示了JailMine的有效性和效率，平均降低了86％的时间消耗，同时保持了高达95％的成功率，即使在面对不断进化的防御策略时也能如此。我们的工作为评估和缓解LLMs对越狱攻击的脆弱性做出了贡献，强调了继续保持警惕和采取积极措施以增强这些强大语言模型的安全性和可靠性的重要性。

本文试图解决LLMs面临的越来越多的越狱攻击问题，提出了一种新的基于token级别的操纵方法。

本文提出的JailMine方案通过自动化的“挖掘”过程，从LLMs中筛选出恶意响应，并通过迭代降低拒绝的可能性，从而有效地解决了现有token级别越狱技术所面临的可扩展性和效率挑战。

JailMine方案在多个知名LLMs和数据集上进行了严格测试，证明了其高效性和有效性，平均时间消耗降低了86％，成功率平均为95％，即使面对不断更新的防御策略也能保持高成功率。本文的工作为评估和缓解LLMs面临的越狱攻击漏洞做出了贡献，强调了继续保持警惕和采取积极措施以增强这些强大语言模型的安全性和可靠性的重要性。

最近在这个领域中，还有一些相关研究，例如：《Generating Adversarial Examples for Large Scale Neural Language Models》、《Jiant: A Software Toolkit for Research on General Purpose Text Understanding Models》等。