Legitimate Power, Illegitimate Automation: The problem of ignoring legitimacy in automated decision systems

机器学习和人工智能的进步促使自动化决策系统（ADS）的广泛采用。广泛的文献探讨了这些系统的决策必须满足什么条件才能公平。然而，关于合法性的问题——即为什么控制ADS的人有权做出这样的决定——却受到相对较少的关注。本文表明，当这些问题被提出时，理论家们经常错误地将合法性与公众接受或其他实质性价值（如公平、准确性、专业知识或效率）混淆。为了寻求更好的理论，我们对关于国家合法性的哲学文献进行了批判性分析，重点关注同意、公共理由和民主授权。这个分析揭示了分析政治哲学中对合法性的普遍理解也不适合于建立ADS何时合法的任务。因此，本文澄清了ADS合法性理论的期望，并为未来关于这个主题的研究计划制定了路径。

论文探讨了自动决策系统（ADS）的合法性问题，即为什么ADS的控制者有权做出这些决策？

论文对政治哲学中关于国家合法性的理论进行了批判性分析，发现现有理论不适用于建立ADS合法性的标准，提出建立ADS合法性理论的期望和路径。

论文强调ADS的合法性问题不应仅仅关注公众接受度或其他实质性价值，如公平性、准确性、专业性或效率，而是应该从同意、公共理由和民主授权等角度进行探究。研究提供了ADS合法性问题的新视角和研究方向，为进一步探究ADS合法性问题提供了参考。

最近的相关研究集中在ADS公平性的探究，如《公平的自动决策系统：一个关于算法公平性的哲学研究》（Fairness in Automated Decision Making: A Philosophical Inquiry into Algorithmic Fairness）等。