A Causal Explainable Guardrails for Large Language Models

大型语言模型（LLMs）在自然语言任务中表现出令人印象深刻的性能，但它们的输出可能会展现出不良属性或偏见。现有的将LLMs引导到期望属性的方法通常假定具有无偏表示，并仅依赖于引导提示。然而，从预训练中学习到的表示可能会引入影响引导过程的语义偏见，导致结果不理想。我们提出了LLMGuardaril，这是一个新颖的框架，它结合了因果分析和对抗学习，以获得LLMs中的无偏引导表示。LLMGuardaril系统地识别和阻止偏见的混淆效应，从而实现提取无偏引导表示。此外，它还包括一个可解释的组件，提供有关生成的输出与期望方向之间对齐的见解。实验证明了LLMGuardaril在引导LLMs朝着期望属性方向发展的同时减轻偏见方面的有效性。我们的工作有助于开发与期望属性相一致的安全可靠的LLMs。我们讨论了限制和未来的研究方向，强调需要进行持续的研究来解决大型语言模型的伦理影响问题。

该论文旨在解决大型语言模型（LLMs）中存在的偏见问题，提出了一种新的框架LLMGuardaril，以获得无偏的控制表示。

LLMGuardaril框架结合了因果分析和对抗学习，通过识别和阻止偏见的混淆效应，实现了无偏的控制表示。

论文实验表明，LLMGuardaril在减轻偏见的同时，可以有效地将LLMs引导到所需的属性。此外，该框架还包括一个可解释的组件，提供了关于生成输出与所需方向之间的对齐的见解。

最近的相关研究包括《Reducing Gender Bias in Word-Level Language Models with a Gender-Equalizing Loss Function》和《Mitigating Unwanted Biases with Adversarial Learning》等。