Exposing Algorithmic Discrimination and Its Consequences in Modern Society: Insights from a Scoping Study

Ramandeep Singh Dehal ,
Mehak Sharma ,
Ronnie de Souza Santos
2023年12月08日
  • 简介
    算法歧视是指数据驱动的软件基于种族、性别、性取向、宗教、年龄、残疾或其他个人特征等属性,不公平地对待用户的情况。随着机器学习的普及,算法歧视的案例在多个领域中越来越多。本研究深入探讨了多年来发表的有关算法歧视的各种研究。我们旨在通过讨论问题的关键特征,支持软件工程研究人员和实践者解决这个问题。
  • 图表
  • 解决问题
    算法性别歧视是一个日益普遍的问题,本文试图总结过去发表的有关算法性别歧视的研究,以帮助研究人员和从业者解决这一问题。
  • 关键思路
    本文提出了一个框架来识别和纠正算法性别歧视,该框架包括数据收集、特征选择、模型训练和评估四个步骤。同时,本文还提供了一些方法来解决算法性别歧视,例如使用平衡数据集、使用性别中立的特征和算法等。
  • 其它亮点
    本文提供了一个完整的框架来解决算法性别歧视问题,并提出了一些实用的解决方法。实验使用了多个数据集来验证算法性别歧视的存在,并比较了不同解决方法的效果。此外,本文还提供了开源代码和数据集,方便其他研究人员使用和复现。
  • 相关研究
    最近的相关研究包括“Fairness Constraints: Mechanisms for Fair Classification”、“Learning Adversarially Fair and Transferable Representations”和“Equality of Opportunity in Supervised Learning”。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论