SHIELD: Evaluation and Defense Strategies for Copyright Compliance in LLM Text Generation

大型语言模型（LLMs）已经改变了机器学习的面貌，但由于其可能产生侵犯版权的文本，引发了重大的法律问题，导致多起备受关注的诉讼案件。法律界正在努力跟上这些快速发展的步伐，目前仍在争论生成的文本是否可能剽窃受版权保护的材料。当前的LLMs可能会侵犯版权或过度限制非受版权保护的文本，导致以下挑战：（i）需要一个全面的评估基准来从多个方面评估版权合规性；（ii）评估对抗绕过攻击的鲁棒性；以及（iii）开发针对生成受版权保护的文本的有效防御措施。为了解决这些挑战，我们引入了一个策划数据集，以评估方法、测试攻击策略，并提出轻量级、实时的防御措施，以防止生成受版权保护的文本，确保LLMs的安全和合法使用。我们的实验表明，当前的LLMs经常输出受版权保护的文本，越狱攻击可以显著增加受版权保护的输出量。我们提出的防御机制通过有效地拒绝恶意请求，显著减少了LLMs生成的受版权保护的文本量。代码公开可用于https://github.com/xz-liu/SHIELD。

如何确保大型语言模型生成的文本不侵犯版权？

引入一个评估基准数据集，针对版权合规性进行综合评估，提出轻量级实时防御机制以预防版权侵犯。

论文提出的数据集可以用于评估方法、测试攻击策略和提出防御机制，实验结果表明当前的大型语言模型经常输出侵犯版权的文本，同时还提出了有效的防御机制，代码公开在GitHub上。

最近的相关研究主要集中在大型语言模型的开发和应用上，如GPT-3、BERT等。