SHIELD: Evaluation and Defense Strategies for Copyright Compliance in LLM Text Generation

大型语言模型（LLMs）已经改变了机器学习，但由于它们可能产生侵犯版权的文本，引发了重大的法律问题，导致了几起备受关注的诉讼。法律环境正在努力跟上这些快速进展，目前正在就生成的文本是否可能抄袭版权材料展开争论。当前的LLMs可能侵犯版权或过度限制非版权文本，导致以下挑战：（i）需要一个全面的评估基准来从多个方面评估版权合规性；（ii）评估对抗绕过攻击的鲁棒性；和（iii）开发针对版权文本生成的有效防御。为了应对这些挑战，我们介绍了一个策划数据集来评估方法、测试攻击策略，并提出轻量级、实时的防御机制来防止生成版权文本，确保LLMs的安全合法使用。我们的实验表明，当前的LLMs经常输出版权文本，并且越狱攻击可以显著增加版权输出的数量。我们提出的防御机制通过有效地拒绝恶意请求，显著减少了LLMs生成的版权文本数量。代码公开在https://github.com/xz-liu/SHIELD上。

解决问题：如何确保使用大型语言模型时遵守版权法律？

关键思路：提出了一种基于数据集、攻击和防御的方法来评估大型语言模型的版权合规性，同时提出了一种轻量级实时防御机制，可以有效防止生成受版权保护的文本。

其他亮点：论文提出了一个评估版权合规性的数据集，展示了当前大型语言模型经常输出受版权保护的文本，并介绍了一种可以显著减少生成受版权保护文本的防御机制。研究使用了开源代码，并提供了进一步研究的方向。

相关研究：在这个领域中，最近的相关研究包括“GPT-2生成的文本中的版权问题”和“版权保护的文本生成”。