I ett första experiment i sitt slag, San Franciscos åklagare vänder sig till artificiell intelligens för att minska rasfördomar i domstolarna, anta ett system som tar bort vissa identifierande detaljer från polisrapporter och lämnar endast nyckelfakta för att styra beslut om åtal.

Distriktsåklagare George Gascon meddelade på onsdagen att hans kontor kommer att börja använda tekniken i juli för att "ta rasen ur ekvationen" när han bestämmer sig för om man ska anklaga misstänkta för ett brott.

Kriminalrättsexperter säger att de aldrig har hört talas om något liknande projekt, och de applåderade idén som en kreativ, djärva försök att göra laddningsmetoderna mer färgblinda.

Gascons kontor arbetade med datavetare och ingenjörer vid Stanford Computational Policy Lab för att utveckla ett system som tar elektroniska polisrapporter och automatiskt tar bort en misstänkts namn, ras och hår- och ögonfärger. Namnen på vittnen och poliser kommer också att tas bort, tillsammans med specifika stadsdelar eller distrikt som kan indikera rasen för de inblandade.

"Det straffrättsliga systemet har haft en fruktansvärd inverkan på färgade människor i det här landet, särskilt afroamerikaner, i generationer, ", sa Gascon i en intervju före tillkännagivandet. "Om alla åklagare tog rasen ur bilden när de fattade åtalsbeslut, vi skulle förmodligen vara på en mycket bättre plats som nation än vi är idag."

Gascon sa att hans mål var att utveckla en modell som kan användas någon annanstans, och tekniken kommer att erbjudas gratis till andra åklagare över hela landet.

"Jag berömmer dem verkligen, det är ett modigt drag, sa Lucy Lang, en före detta åklagare i New York och verkställande direktör för Institute for Innovation in Prosecution vid John Jay College of Criminal Justice.

Tekniken förlitar sig på människor för att samla in de första fakta, som fortfarande kan påverkas av rasfördomar. Åklagaren kommer att fatta ett första åtalsbeslut baserat på den redigerade polisanmälan. Sedan kommer de att titta på hela rapporten, med återställda detaljer, för att se om det finns några förmildrande skäl att ompröva det första beslutet, sa Gascon.

Lang och andra experter sa att de ser fram emot att se resultaten och att de förväntar sig att systemet är ett pågående arbete.

"Hatten av för att prova nya grejer, " sa Philip Atiba Goff, ordförande för Center for Policing Equity. "Det finns så många kontextuella faktorer som kan indikera ras och etnicitet att det är svårt att föreställa sig hur ens en människa skulle kunna ta bort det hela."

En studie från 2017 beställd av distriktsåklagaren i San Francisco fann "avsevärda rasmässiga och etniska skillnader i straffrättsliga resultat." Afroamerikaner representerade endast 6 % av länets befolkning men stod för 41 % av gripandena mellan 2008 och 2014.

Studien fann "små bevis på öppen partiskhet mot någon ras eller etnisk grupp" bland åklagare som behandlar brott. Men Gascon sa att han ville hitta ett sätt att hjälpa till att eliminera en implicit fördom som kan utlösas av en misstänkt ras, ett etniskt klingande namn eller en brottslig stadsdel där de greps.

Efter det börjar, programmet kommer att ses över varje vecka, sa Maria Mckee, DA:s chef för analys och forskning.

Flytten kommer efter att San Francisco förra månaden blev den första staden i USA att förbjuda användningen av ansiktsigenkänning av poliser och andra stadsbyråer. Beslutet återspeglade en växande motreaktion mot AI-teknik när städer försöker reglera kommunala myndigheters övervakning.

© 2019 Associated Press. Alla rättigheter förbehållna.