正义应该是“盲,“但比赛失明总是最好的方法实现种族平等?一个算法来预测重犯监狱人群就是辩论凸显。

风险评估工具的核心第一步行动2018年,国会通过了重要的两党支持,是为了缩短一些犯罪的句子改善监狱的条件。别的变化,它回报联邦囚犯提前释放,如果他们参与项目旨在减少重新犯罪的风险。识别潜在的候选人资格提前释放囚犯评估工具针对估计风险和需求,称为模式,估计一个犯人犯罪的风险释放。

支持者著名的第一步行动作为刑事司法改革的一步,它提供了一个清晰的路径减少低风险的非暴力罪犯的监狱人口同时保护公共安全。

但审查模式的系统司法部在2021年12月公布的发现模式overpredicts累犯少数犯人2%至8%,白色的囚犯。批评者担心模式加强种族偏见长期以来困扰美国的监狱系统。

作为伦理学家他的研究的使用算法在刑事司法系统,我们花了很多时间思考如何避免与新技术复制种族偏见。我们试图理解的系统模式是否可以种族公平的同时继续服务功能为他们设计的:减少监狱的人口,同时维护公共安全。

使得所有囚犯可能需要模式同样准确算法把犯人种族考虑,这似乎违反直觉。换句话说,实现跨种族公平的结果可能需要更多关注比赛,而不是更少:一个表面上的悖论,在公平和种族正义的许多讨论。

模式是如何运作的

的模式算法几十个人根据一系列变量已经被证明预测累犯。这些因素包括犯罪史、教育水平、纪律事件而被监禁,以及他们是否已经完成了项目旨在减少累犯等等。算法预测通用和暴力累犯,不考虑一个囚犯的比赛当生产风险分数。

基于这一点,个人被认为是高、中或低风险。只有那些陷入过去的类别有资格获得提前释放。

司法部的最新评论比较模式的预测与实际结果的前囚犯,表明该算法的错误倾向于不利的非白人囚犯。

与白色的囚犯相比,模式overpredicted一般累犯黑人男囚犯在2%和3%之间。根据美国司法部的报告,这个数字上升到6%到7%为黑人女性,相对于白人女性。模式overpredicted累犯以2%对6%拉美裔人与白人囚犯相比,和overpredicted累犯亚洲男性以7%对8%相比,白色的囚犯。

这些不同的结果可能会让很多人不公平,有可能加强现有的刑事司法系统的种族差异。例如,美国黑人已经被监禁5倍的美国白人。

同时该算法overpredicted累犯对于一些种族,它低估了别人。

印第安人的一般累犯被低估了12%到15%与白色的囚犯,2% underprediction暴力累犯。暴力犯被低估了4%到5%的黑人男性和黑人女性的1%到2%。

减少由包括种族偏见

人们很容易得出这样的结论:美国司法部应该放弃这个系统。然而,计算机和数据科学家开发了一个数组的工具在过去的十年中旨在解决算法不公平的考虑。所以值得问是否可以补救模式的不平等。

一种选择是应用中所描述的那种“消除技术偏见”最近的工作由刑事司法专家Jennifer Skeem和克里斯托弗Lowenkamp。作为计算机科学家和法律学者已经观察到,一块信息的预测价值对一个人可能取决于他们的其他特征。例如,假设拥有稳定的住房往往减少的风险前囚犯将提交另一个犯罪,但这住房和之间的关系不是白人囚犯初步强于黑人囚犯。一个算法可以考虑到这更高的精度。

但考虑到这种差异需要设计师包括每个犯人的竞赛算法,提出了法律问题。区别对待不同的个人竞赛的基础上违反法律的决策风险宪法第十四条修正案,保证平等的法律保护。

一些法律学者,包括黛博拉·赫尔曼,最近认为这个法律问题被夸大了。例如,法律允许使用种族分类描述犯罪嫌疑人和收集关于人口普查的人口数据。

其他用途的种族分类更有问题。例如,种族歧视和反歧视行动项目继续在法庭上有争议。但赫尔曼认为设计算法敏感信息的预测价值的方式跨越种族界限变化更类似于使用竞赛怀疑描述和人口普查。

在某种程度上,这是因为race-sensitive算法,与种族定性不同,不依赖于统计归纳的流行特征,如再犯的速度,在一个种族。相反,她提出了对算法的可靠性进行统计归纳的信息对种族的成员和适当调整。

但也有几个伦理问题需要考虑。将竞赛可能构成不公平待遇。对待囚犯作为个体可能会失败,因为它依赖于统计事实的种族被分配。可能把一些囚犯处境更糟比其他人获得早期的学分,仅仅因为他们的种族。

关键的区别

尽管有这些问题,我们认为有好的道德原因将比赛纳入算法。

首先,通过加入比赛,该算法可以更准确的在所有种族。这可能允许联邦监狱系统给予提前释放更多的囚犯构成累犯的低风险,同时保持高风险囚犯在狱中。这将促进正义不牺牲公共安全,刑事司法改革的支持者。

此外,改变算法,包括种族可以改善结果为黑人囚犯为白人囚犯没有把事情弄得更糟。这是因为挣学分对早期从监狱释放不是一场零和游戏;一个人的资格的提前释放程序不会影响别人的。这是非常不同于等项目反歧视行动在招聘或教育。在这些情况下,职位是有限的,所以使事情更好的为另一组一组一定会让事情变得更糟。

模式说明,种族平等不一定是促进通过种族的方程——至少不是当所有参与者受益。

邓肯Purves副教授,哲学,佛罗里达大学和杰里米•戴维斯博士后,佛罗里达大学

这篇文章是转载的谈话基于知识共享许可协议。读了原文。谈话是一个非营利性新闻来源,致力于传播思想和专业知识从学术界到公共话语。