En ny artikel i Quarterly Journal of Economics anser att att ersätta vissa rättsliga beslutsfattande funktioner med algoritmer skulle kunna förbättra resultaten för svarande genom att eliminera några av domarnas systemiska fördomar.
Beslutsfattare gör följdval baserat på förutsägelser om okända utfall. Särskilt domare fattar beslut om huruvida borgen ska beviljas till åtalade eller hur de dömda ska dömas. Företag använder nu maskininlärningsbaserade modeller i allt större utsträckning i beslut med hög insats.
Det finns olika antaganden om mänskligt beteende som ligger till grund för implementeringen av sådana inlärningsmodeller som utspelar sig i produktrekommendationer på Amazon, skräppostfiltrering av e-post och prediktiva texter på ens telefon.
Forskarna här utvecklade ett statistiskt test av ett sådant beteendeantagande, huruvida beslutsfattare gör systematiska förutsägelsemisstag, och vidareutvecklade metoder för att uppskatta hur deras förutsägelser systematiskt är partiska.
Genom att analysera New York City-systemet för rättegången visar forskningen att en betydande del av domarna gör systematiska förutsägelsemisstag om risken för missförhållanden före rättegången med tanke på svarandens egenskaper, inklusive ras, ålder och tidigare beteende.
Forskningen här använde information från domare i New York City, som är nästan slumpmässigt tilldelade fall som definieras i den tilldelade rättssalen per skift. Studien testade om domarnas frigivningsbeslut återspeglar korrekta uppfattningar om risken för att en tilltalad misslyckas med att inställa sig för rättegång (bland annat). Studien baserades på information om 1 460 462 fall i New York City, varav 758 027 fall var föremål för ett beslut om frigivning före rättegången.
Uppsatsen här härledde ett statistiskt test för huruvida en beslutsfattare gör systematiska förutsägelsemisstag och tillhandahöll metoder för att uppskatta de sätt på vilka beslutsfattares förutsägelser är systematiskt partiska. Genom att analysera besluten om frigivning före rättegången av domare i New York City, uppskattar tidningen att minst 20 % av domarna gör systematiska förutsägelsemisstag om risken för missförhållanden i svaranden givet svarandens egenskaper. Motiverad av denna analys uppskattade forskaren här effekterna av att ersätta domare med algoritmiska beslutsregler.
Tidningen fann att beslut av minst 32 % av domarna i New York City är oförenliga med den faktiska förmågan hos de tilltalade att ställa ut ett specificerat borgensbelopp och den verkliga risken för att de inte kommer att inställa sig för rättegång.
Forskningen här indikerar att när både den åtalades ras och ålder beaktas, gör mediandomaren systematiska förutsägelsemisstag på cirka 30 % av de åtalade som tilldelats dem. När både den åtalade rasen och om den åtalade anklagades för ett grovt brott beaktas, gör mediandomaren systematiska förutsägelsemisstag på cirka 24 % av de åtalade som tilldelats dem.
Medan tidningen noterar att att ersätta domare med en algoritmisk beslutsregel har tvetydiga effekter som beror på beslutsfattarens mål (är det önskade resultatet ett där fler åtalade dyker upp för rättegång eller ett där färre åtalade sitter i fängelse och väntar på rättegång?) Det verkar som om att ersätta domare med en algoritmisk beslutsregel skulle leda till upp till 20 % förbättringar av rättegångsresultat, mätt baserat på andelen uteblivna inträden bland frigivna åtalade och andelen häktning före rättegången.
"Effekterna av att ersätta mänskliga beslutsfattare med algoritmer beror på avvägningen mellan huruvida människan gör systematiska förutsägelsemisstag baserat på observerbar information tillgänglig för algoritmen kontra om människan observerar någon användbar privat information", säger tidningens huvudförfattare, Ashesh Rambachan.
"Det ekonometriska ramverket i denna artikel gör det möjligt för empiriska forskare att tillhandahålla direkta bevis på dessa konkurrerande krafter."
Mer information: Ashesh Rambachan, Identifying Prediction Mistakes in Observational Data, Quarterly Journal of Economics (2024). DOI:10.1093/qje/qjae013. academic.oup.com/qje/article-l … /10.1093/qje/qjae013
Journalinformation: Quarterly Journal of Economics
Tillhandahålls av Oxford University Press
