Can Prompt Modifiers Control Bias? A Comparative Analysis of Text-to-Image Generative Models

这项研究探讨了领先的文本生成图像模型（Stable Diffusion、DALL-E 3和Adobe Firefly）中社会偏见的存在和操纵。通过将基本提示与修饰符及其顺序相结合的全面分析，我们揭示了这些AI技术在性别、种族、地理和地区/文化方面如何编码偏见。我们的发现揭示了在控制偏见方面提示工程的挑战和潜力，强调了促进多样性和包容性的伦理AI发展的重要性。这项工作不仅揭示了文本生成图像模型中偏见的微妙动态，还提供了一个新的框架，用于未来控制偏见的研究。我们的贡献——跨度比较分析、提示修饰符的战略使用、提示顺序效应的探索以及偏见敏感性分类法的引入——为开发共同的度量标准和标准分析奠定了基础，以评估未来的AI模型是否表现出和响应于调整固有偏见的要求。

探讨文本到图像生成模型中的社会偏见问题，并提供控制偏见的框架和方法

通过对Stable Diffusion、DALL-E 3和Adobe Firefly等文本到图像生成模型的综合分析，结合基础提示和修饰符及其排序，揭示了这些AI技术在性别、种族、地理和地区/文化方面编码偏见的微妙方式，提出了一种偏见敏感性分类法，为未来控制偏见提供了标准分析和度量方法

论文提出的偏见敏感性分类法和控制偏见的框架具有一定的创新性，实验设计细致，使用了多个数据集，为未来研究提供了参考和借鉴，但是并未开源代码

相关研究包括但不限于：《Fairness and Abstraction in Sociotechnical Systems》、《Mitigating Bias in Natural Language Processing: Towards Ethically Aligned NLP》等