Genshin: General Shield for Natural Language Processing with Large Language Models

近来，像ChatGPT、Gemini或LLaMA这样的大型语言模型（LLMs）备受关注，在无数领域展现出相当的进展和普适性。然而，LLMs的存在使得黑匣子问题更加严重，解释性只限于少数方法。LLMs内嵌的不确定性和不透明性限制了它们在金融欺诈、网络钓鱼等高风险领域的应用。目前的方法主要依赖于传统的文本分类和后解释算法，容易受到攻击者的攻击，攻击者可以创建多样化的对抗样本来破坏系统的防御，迫使用户在效率和鲁棒性之间做出权衡。为了解决这个问题，我们提出了一个新的级联框架，称为Genshin（基于大型语言模型的自然语言处理通用防护），利用LLMs作为防御性一次性插件。与大多数LLMs的应用尝试将文本转化为新的或结构化的形式不同，Genshin使用LLMs将文本恢复到其原始状态。Genshin旨在将LLMs的普适性、中位数模型的区分性和简单模型的可解释性相结合。我们在情感分析和垃圾邮件检测任务上的实验显示了当前中位数模型的致命缺陷和LLMs恢复能力的令人振奋的结果，证明了Genshin既有效又高效。在我们的消融研究中，我们发现了一些有趣的观察结果。利用LLM防御工具，这是从第四范式中衍生出来的工具，我们已经在NLP的第三范式中复现了BERT的15%最佳掩码率结果。此外，当将LLM作为潜在的对抗工具时，攻击者能够执行几乎没有语义损失的有效攻击。

论文旨在解决大型语言模型（LLMs）的不透明性和不确定性限制其在高风险领域应用的问题，提出了一种名为Genshin的新型级联框架，利用LLMs作为防御性插件来恢复文本的原始状态。

Genshin框架将LLMs作为防御性插件，通过恢复文本的原始状态，结合中位数模型的区分能力和简单模型的可解释性，提高了模型的效率和鲁棒性。

论文使用情感分析和垃圾邮件检测任务进行实验，证明了当前中位数模型存在的致命缺陷以及LLMs恢复文本能力的出色结果。同时，作者还使用了LLMs作为潜在的对抗工具，展示了攻击者几乎可以无损地进行有效攻击的能力。论文开源了代码并提供了相关数据集。

最近的相关研究包括大量关于LLMs的应用研究，例如ChatGPT、Gemini和LLaMA等。此外，也有一些关于LLMs解释性的研究，如LIME、SHAP和Anchor等。