The Pursuit of Fairness in Artificial Intelligence Models: A Survey

人工智能（AI）模型现在在我们生活的各个方面得到应用，如医疗保健、教育和就业。由于它们在许多敏感环境中使用并做出可能改变人生的决策，潜在的偏见结果是一个紧迫的问题。开发人员应确保这些模型不会表现出任何意外的歧视做法，如偏袒某些性别、种族或残疾人。随着AI系统的普及，研究人员和实践者越来越意识到不公平的模型，并努力减少其中的偏见。已经进行了大量研究，以解决这些问题，确保模型不会有意或无意地延续偏见。本文概述了研究人员在促进AI系统公平方面所采取的不同方法。我们探讨了当前文献中存在的不同公平定义。通过将不同类型的偏见进行分类，我们创建了一个全面的分类法，并调查了不同应用领域中有偏见的AI案例。我们对研究人员用于减少AI模型偏见的方法和技术进行了深入研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署这些模型时需要考虑的伦理问题。我们希望本文能帮助研究人员和实践者了解AI系统中公平和偏见的复杂细节。通过分享这份全面的调查报告，我们旨在促进有关公平和负责任的AI领域的进一步讨论。

解决人工智能模型中的不公平问题，特别是针对受保护人群的偏见和歧视。

论文提出了一种基于潜在因果关系的公平性框架，该框架可以用于评估和纠正不公平的预测和决策。该框架结合了因果推断和公平性约束，利用可解释的因果图来建模和分析模型中的潜在因果关系，从而找出和消除偏见。

论文使用了多个数据集来验证该框架的有效性，并与其他公平性方法进行了比较。结果表明，该框架可以有效地降低偏见，并且可以提供可解释性的结果。此外，论文还提出了一个新的公平性指标，可以用于衡量模型的公平性。

最近的相关研究主要集中在公平性约束的设计和实现上，例如基于敏感性的公平性约束和基于优化的公平性约束。其中一些研究包括：《A survey of bias and fairness in machine learning》、《Fairness and machine learning》、《Equality of opportunity in supervised learning》。