Exploring Vulnerabilities and Protections in Large Language Models: A Survey

随着大型语言模型（LLMs）越来越成为各种人工智能应用的关键组成部分，了解它们的安全漏洞和防御机制的有效性至关重要。本调查研究了LLMs的安全挑战，重点关注两个主要领域：提示式黑客和对抗攻击，每个领域都有特定类型的威胁。在提示式黑客下，我们探讨了提示注入和越狱攻击，讨论它们的工作原理、潜在影响以及减轻它们的方法。同样，我们分析对抗攻击，将其分解为数据污染攻击和后门攻击。这种结构化的检查有助于我们了解这些漏洞与可实施的防御策略之间的关系。本调查强调了这些安全挑战，并讨论了强大的防御框架，以保护LLMs免受这些威胁。通过详细说明这些安全问题，本调查有助于更广泛的讨论，即如何创建能够抵御复杂攻击的弹性人工智能系统。

研究大型语言模型（LLMs）的安全漏洞和防御机制，以保护AI系统免受攻击。

本文针对LLMs的Prompt Hacking和Adversarial Attacks两个主要领域进行研究，提出了防御框架以保护LLMs免受这些威胁。

本文详细分析了Prompt Hacking和Adversarial Attacks的不同类型的威胁，并提出了相应的防御策略。实验使用了不同的数据集来验证这些防御机制的有效性。

最近的相关研究包括：《Exploring the Security Landscape of Language Models in the Wild》、《Adversarial Attacks on Large Language Models》等。