En studie utförd av University of California, Berkeley, publicerad i tidskriften Science, fann att riskbedömningsalgoritmer som används i det straffrättsliga systemet visar partiskhet mot den latinamerikanska befolkningen. Studien analyserade data från över 20 miljoner brottmål och fann att algoritmerna var mer benägna att förutsäga att latinamerikanska åtalade skulle begå framtida brott än vita åtalade, även när de hade liknande brottshistoria och andra riskfaktorer.

Studiens resultat har väckt farhågor om rättvisan och noggrannheten hos riskbedömningsalgoritmer, som i allt högre grad används för att fatta beslut om frigivning före rättegång, straff och villkorlig frigivning. Kritiker hävdar att dessa algoritmer kan vidmakthålla rasliga och etniska skillnader i det straffrättsliga systemet genom att systematiskt överskatta risken för återfall för vissa grupper av människor.

Som svar på dessa farhågor har vissa jurisdiktioner börjat vidta åtgärder för att ta itu med algoritmisk bias. Till exempel antog Kalifornien nyligen en lag som kräver att riskbedömningsalgoritmer granskas för partiskhet och som förbjuder användningen av algoritmer som diskriminerar baserat på ras eller etnicitet. Andra jurisdiktioner överväger liknande åtgärder för att säkerställa att riskbedömningsalgoritmer används rättvist och rättvist.

Studiens resultat är en påminnelse om de potentiella farorna med att använda algoritmer för att fatta beslut om människors liv. Det är viktigt att noggrant överväga potentialen för partiskhet och diskriminering när man utvecklar och använder dessa algoritmer, och att vidta åtgärder för att minska dessa risker.