Evidence of What, for Whom? The Socially Contested Role of Algorithmic Bias in a Predictive Policing Tool

本文针对芝加哥犯罪预测算法的社会作用进行了关键的定性研究，这是一种预测警务工具，可以预测犯罪最可能发生的时间和地点。通过对18个芝加哥地区社区组织、学术研究人员和公共部门人员的访谈，我们发现来自不同团体的利益相关者对该工具算法偏见的问题诊断有不同的表述，他们策略性地将其用作证据，以推进与利益相关者立场和政治目的相一致的刑事司法干预措施。我们借鉴了Catherine D'Ignazio的“拒绝和使用”数据分类法，发现利益相关者利用算法偏见的证据来改革警察巡逻分配政策；拒绝基于算法的执法干预措施；将犯罪重新定义为结构性问题而非人际问题；揭示权威人物的数据以颠覆他们的权力；修复和治愈家庭和社区；在更强大的行动者的情况下，重申他们自己的权威或现有的权力结构。我们确定了这些不同的算法偏见作为证据使用的隐含假设和范围，表明它们需要不同（有时是相互冲突的）关于警务和人工智能的价值观。这种分歧反映了刑事司法改革领域长期存在的紧张关系，即系统受影响社区通常聚焦于解放和治愈的价值观与数据驱动的改革措施中常见的监控和威慑价值观之间的价值观。我们主张将受到监禁影响的社区的利益和经验知识置于中心位置，以确保算法偏见的证据可以作为挑战现状的工具。

社会角色中的算法偏见：芝加哥犯罪预测算法的案例研究

通过对芝加哥社区组织、学术研究人员和公共部门人员的采访，发现不同利益相关者对工具算法偏见的问题诊断不同，战略性地将其用作证据来推进与利益相关者立场和政治目的一致的刑事司法干预措施。

研究发现不同利益相关者使用算法偏见的证据来改革警察巡逻分配政策、拒绝基于算法的执法干预、重新定义犯罪为结构性问题、揭示有关当局人物的数据以颠覆他们的权力、修复和治愈家庭和社区，以及在更强大的行动者的情况下，重申自己的权威或现有的权力结构。

最近的相关研究包括：Catherine D'Ignazio的拒绝和使用数据分类法，以及关于刑事司法改革的长期紧张关系，其中自由和治愈的价值观通常由系统受影响的社区所关注，而监视和威慑的价值观则通常体现在数据驱动的改革措施中。