机器学习公平性是现在关注的焦点之一。最近来自Tel-Aviv大学的学者在ACM CSUR最新《机器学习公平性》综述论文阐述七大类公平机器学习算法。

在医疗、交通、教育、大学入学、招生、贷款等领域，人工智能(ai)和机器学习(ML)算法控制人类日常生活的决策正在增加。由于它们现在涉及到我们生活的许多方面，开发不仅准确而且客观和公平的ML算法是至关重要的。最近的研究表明，算法决策可能天生就倾向于不公平，即使没有这样的意图。本文概述了在分类任务上使用ML算法时识别、度量和改进算法公平性的主要概念。本文首先讨论了算法偏见和不公平产生的原因，以及公平的常见定义和衡量标准。公平促进机制然后审查和分为前过程，在过程中，和后过程机制。然后对这些机制进行全面的比较，以便更好地理解在不同的场景中应该使用哪些机制。文章最后回顾了算法公平性的几个新兴研究子领域，不仅仅是分类。

论文链接：

https://dl.acm.org/doi/10.1145/3494672

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除