在这个数据驱动的时代,如果你被逮捕的可能性越来越大,法官决定是否送你回家或监狱候审将咨询保险精算数学。专业algorithms-called风险评估tools-plumb你历史、人口、和其他细节吐出一个分数量化的可能性有多大你提交另一个犯罪或出现在你的下一个听证会。但这些工具受到火治疗人们的颜色更严厉。

根据创新中心的法院,一个司法改革机构总部设在纽约,这些批评可能是有根据的。“没有办法做办不到的事,把偏见的系统通过使用由系统生成的数据贯穿着种族偏见,“马特·沃特金斯说,资深作家中心和论文的作者之一。

风险评估被定位为“种族”,取代人类judgment-subjective,充满了隐式的倾向性客观、科学的标准。麻烦的是,最准确的工具从现有刑事司法数据:大量实际发生了什么人在任何特定位置被逮捕。刑事司法和实际的经验的人充满了种族差异和内隐偏见。

阅读全文种族歧视的算法在贝丝Schwartzapfel马歇尔计划。