JailbreakZoo: Survey, Landscapes, and Horizons in Jailbreaking Large Language and Vision-Language Models

人工智能通过大型语言模型(LLM)和视觉语言模型(VLM)的发展迅速演进，为各种技术领域带来了重大进展。虽然这些模型增强了自然语言处理和视觉交互任务的能力，但它们日益增长的采用引发了关于安全和道德对齐方面的重要问题。本调查提供了对越狱领域的广泛回顾——即有意绕过LLM和VLM的道德和操作界限——以及随之发展的防御机制。我们的研究将越狱分为七种不同类型，并详细阐述了应对这些漏洞的防御策略。通过这个全面的研究，我们确定了研究空白，并提出了未来研究的方向，以增强LLM和VLM的安全框架。我们的发现强调了需要一个统一的视角，将越狱策略和防御解决方案整合起来，为下一代语言模型创造一个强大、安全和可靠的环境。更多详细信息可以在我们的网站上找到：\url{https://chonghan-chen.com/llm-jailbreak-zoo-survey/}。

解决问题：论文探讨了LLMs和VLMs的越狱问题，提出了七种不同类型的越狱，并阐述了相应的防御策略。

关键思路：本文提供了一种全面的研究框架，将LLMs和VLMs的越狱策略和防御解决方案相结合，以加强这些模型的安全性和可靠性。

亮点：本文详细分类了越狱类型，并提供了相应的防御策略。此外，本文还指出了研究中存在的空白和未来的研究方向。

相关研究：最近的相关研究包括“GPT-3的安全性分析”和“对抗性攻击下的语言模型防御”。