A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly

大型语言模型（LLMs），例如GPT-3和BERT，已经彻底改变了自然语言理解和生成。它们具有深刻的语言理解、类人的文本生成能力、上下文意识和强大的问题解决能力，使它们在各个领域（如搜索引擎、客户支持、翻译）中变得不可或缺。同时，LLMs在安全领域也受到了关注，揭示了安全漏洞并展示了它们在安全相关任务中的潜力。本文探讨了LLMs与安全和隐私的交叉点。具体而言，我们调查了LLMs如何对安全和隐私产生积极影响，与其使用相关的潜在风险和威胁以及LLMs内在的漏洞。通过全面的文献综述，本文将研究结果分为“好”（有益的LLMs应用程序）、“坏”（攻击性应用程序）和“丑”（漏洞及其防御）。我们有一些有趣的发现。例如，LLMs已经被证明可以增强代码和数据安全，优于传统方法。然而，由于其类人的推理能力，它们也可以被用于各种攻击（特别是用户级攻击）。我们已经确定了需要进一步研究的领域。例如，模型和参数提取攻击的研究是有限的，往往是理论性的，受到LLM参数规模和保密性的限制。最近发展起来的安全指令调整需要更多的探索。我们希望我们的工作可以揭示LLMs在加强和危及网络安全方面的潜力。

LLMs在安全和隐私方面的影响

通过综合文献回顾，将LLMs的应用分为好、坏和丑三类，探讨了LLMs在安全和隐私方面的积极影响、潜在风险和威胁以及内在漏洞。

LLMs已被证明可以增强代码和数据安全，但由于其类人的推理能力，也可能被用于各种攻击。研究LLMs的模型和参数提取攻击、安全指令调整等领域仍需进一步探索。

最近的相关研究包括《BERT在网络安全领域的应用》、《基于GPT-3的恶意代码生成》等。