BiasEdit: Debiasing Stereotyped Language Models via Model Editing

以往的研究已经证实，语言模型会表现出刻板的偏见。现有的去偏策略，例如通过反事实数据重新训练模型、表示投影以及提示方法，往往无法有效消除偏见，或者直接改变模型内部带有偏见的表示。为了解决这些问题，我们提出了 BiasEdit，这是一种高效的模型编辑方法，通过轻量级网络作为“编辑器”生成参数更新，从而去除语言模型中的刻板偏见。BiasEdit 使用一种去偏损失函数，引导编辑网络对语言模型的部分参数进行局部修改以实现去偏，同时通过保留损失函数确保在编辑过程中不损害语言建模能力。在 StereoSet 和 Crows-Pairs 数据集上的实验表明，与传统的去偏基线方法相比，BiasEdit 在消除偏见方面更有效、更高效且更稳健，并且对语言模型的整体能力几乎没有影响。此外，我们还进行了偏见追踪分析，探究了不同模块中的偏见来源，并研究了偏见编辑对语言模型各组成部分的影响。

论文试图解决语言模型中存在的刻板印象偏见问题，尤其是现有去偏方法效率低、效果有限且可能损害模型性能的问题。这是一个持续受到关注但尚未完全解决的重要问题。

提出了一种名为BiasEdit的方法，通过轻量级编辑网络对语言模型的部分参数进行局部调整，以去除偏见，同时通过保留损失函数确保语言建模能力不受影响。相比传统的重新训练或提示方法，BiasEdit能够更高效地针对模型内部表示进行修改。

1. 在StereoSet和Crows-Pairs数据集上验证了BiasEdit的有效性和效率；2. 提出了偏见追踪技术，分析不同模块中偏见的来源及其修改影响；3. 实验表明该方法对模型整体性能的影响较小；4. 论文代码已开源，便于后续研究者复现和改进。

相关研究包括：1. 「Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings」，探讨了词嵌入中的性别偏见；2. 「Mitigating Bias in NLP Models Without Sacrificing Accuracy」，研究如何在不牺牲准确率的情况下减少模型偏见；3. 「Understanding and Mitigating Gender Bias in Machine Translation」，专注于翻译任务中的性别偏见问题。