Jailbreak Paradox: The Achilles' Heel of LLMs

我们介绍了关于基础模型越狱的两个悖论：第一，构建完美的越狱分类器是不可能的；第二，一个较弱的模型不能始终准确地检测出一个更强的（在帕累托支配意义下）模型是否被越狱了。我们提供了这些悖论的正式证明，并通过对Llama和GPT4-o的短期案例研究来证明这一点。我们讨论了这些结果的更广泛的理论和实际影响。

本文探讨基础模型越狱的两个悖论：构建完美越狱分类器是不可能的，较弱的模型无法一致地检测到较强的模型是否被越狱。

本文提供了两个悖论的正式证明，以及对Llama和GPT4-o的短期案例研究，展示了这些悖论的实际应用。

本文的实验设计包括研究基础模型越狱的两个悖论，证明了这两个悖论的存在，并提供了案例研究。本文还探讨了这些结果的理论和实践影响。

在这个领域中，还有一些相关的研究，例如“基于深度学习的模型安全性研究”和“对抗攻击下的深度学习模型安全性研究”。