Automatiserad riskbedömning har blivit allt mer populärt i det straffrättsliga systemet, men en ny studie publicerad i American Criminal Law Review bedömde noggrannheten, validitet och prediktiv förmåga hos ett verktyg för riskbedömningsalgoritm för att avslöja algoritmisk orättvisa mot latinamerikaner.

Riskbedömning kan vara ett objektivt sätt att minska antalet fängelser utan att äventyra den allmänna säkerheten, och straffrättsliga tjänstemän är alltmer beroende av algoritmisk bearbetning för att informera beslut om att hantera brottslingar enligt deras riskprofiler. Dock, det finns alarmerande bevis som tyder på att riskalgoritmer potentiellt är partiska mot minoritetsgrupper.

Läsare i Law and Criminal Justice vid University of Surrey Dr. Melissa Hamilton använde en stor datauppsättning av åtalade före rättegång som poängsattes på COMPAS – ett allmänt använt algoritmiskt riskbedömningsverktyg – kort efter deras arresteringar för att utvärdera effekten av denna algoritm verktyg specifikt på den latinamerikanska minoritetsgruppen.

Dr Hamilton sa:"Det finns en missuppfattning att algoritmiska riskbedömningsverktyg som utvecklats med hjälp av big data automatiskt representerar en transparent, konsekvent och logisk metod för att klassificera brottslingar. Min forskning tyder på att riskverktyg kan ge ojämlika resultat för minoritetsgrupper om de inte tar hänsyn till sina kulturella skillnader. Bias uppstår när riskverktyg till stor del är normerade på en grupp, till exempel vita prover, eftersom de ger felaktiga förutsägelser för minoritetsgrupper som ett resultat.

"Kumulerade bevis visade att COMPAS konsekvent uppvisade orättvisa och partiska algoritmiska resultat för personer med latinamerikansk etnicitet, med statistik som presenterar differentiell validitet och differentiell prediktiv förmåga. Verktyget misslyckas med att exakt förutsäga faktiska resultat, överförutsäger sedan risknivån för återfall för latinamerikanska åtalade inför rättegången."

Även om det har gjorts imponerande framsteg inom beteendevetenskap, tillgången till stordata och statistisk modellering, Justitietjänstemän bör vara medvetna om att större försiktighet krävs för att säkerställa att korrekta valideringsstudier utförs innan ett algoritmiskt riskverktyg används, för att bekräfta att det är rättvist för sin avsedda befolkning och subpopulationer.