Reducing Large Language Model Bias with Emphasis on 'Restricted Industries': Automated Dataset Augmentation and Prejudice Quantification

尽管大型语言模型的能力不断增强，但它们存在偏见的担忧。在本文中，我们提出了一种新颖的自动机制，通过指定数据集增强来消除偏见，考虑到“受限行业”数据有限的情况下偏见的产生。我们还创建了两个新的指标，mb-index和db-index，来量化偏见，考虑到偏见的产生既与内在的模型架构有关，也与数据集有关。

论文试图通过特定数据集扩充的自动化机制，解决大型语言模型存在偏见的问题，特别是在数据有限的“受限行业”中。

论文通过提出两个新的指标mb-index和db-index来量化偏见，考虑到偏见发生的原因既包括内在的模型架构，也包括数据集。

论文提出了一种新的自动化机制来消除大型语言模型的偏见，这种机制在数据有限的行业中特别有用。同时，论文提出了两个新的指标来衡量偏见，为后续的研究提供了新的思路和方法。实验结果表明，论文提出的方法可以有效地减少模型中的偏见，这对于促进人工智能的公平性和可靠性具有重要意义。

近期的相关研究包括：1.《Reducing bias in natural language processing: Lessons from social psychology》；2.《Mitigating Unwanted Biases with Adversarial Learning》；3.《Fairness Constraints: Mechanisms for Fair Classification》等。