Resampled Datasets Are Not Enough: Mitigating Societal Bias Beyond Single Attributes

我们通过消除受保护群体和图像属性之间的虚假相关性来解决图像-文本数据集中的社会偏见问题。传统方法只针对标记属性，忽略了未标记属性的偏见。我们的方法使用文本引导修补模型，确保受保护群体独立于所有属性，并通过数据过滤减轻修补偏见。在多标签图像分类和图像字幕任务的评估中，我们的方法有效地减少了偏见，而不会影响各种模型的性能。

解决社会偏见在图像-文本数据集中的问题，通过消除受保护群体和图像属性之间的虚假相关性来减少偏见。

使用文本引导修复模型，确保受保护群体与所有属性的独立性，并通过数据过滤减轻修复偏见，从而有效降低偏见而不影响各种模型的性能。

论文使用了文本引导修复模型来消除标签属性和未标签属性之间的偏见，同时通过数据过滤减轻修复偏见。实验结果表明，该方法可以有效地减少偏见，而不会影响各种模型的性能。

最近的相关研究包括：《Reducing Bias Amplification by Inpainting Causal Explanations》、《Mitigating Bias in Computer Vision by Causal Reasoning》等。