I en tidning publicerad av Beteendevetenskap &juridik tidning, experter från University of Surrey tar en kritisk titt på den växande användningen av algoritmiska riskbedömningsverktyg, som fungerar som en form av sakkunnig vetenskaplig bevisning i ett växande antal brottmål.

Granskningen hävdar att på grund av flera problem, såsom utvecklarnas fördomar och svaga statistiska bevis för AI:s prediktiva prestanda, domare bör fungera som grindvakter och noggrant granska om sådana verktyg överhuvudtaget bör användas.

Dokumentet beskriver tre steg som domare bör överväga:

• Kondition, detta är för att överväga om användningen av AI-verktyget överhuvudtaget är relevant för fallet
• Noggrannhet, detta är för att förstå om verktyget verkligen kan skilja mellan återfallsförbrytare och icke-återfallsförbrytare
• Pålitlighet, detta skulle kräva att domarna granskar tillförlitligheten av verktygets resultat i praktiken. Detta steg skulle inte krävas om domaren fann att AI saknades i ett av de två första stegen.

Dr Melissa Hamilton, författare till tidningen och Reader in Law and Criminal Justice vid University of Surrey's School of Law, sa:"Dessa framväxande AI-verktyg har potential att erbjuda fördelar för domare vid straffmätning, men noggrann uppmärksamhet måste ägnas åt om de är pålitliga. Om de används slarvigt kommer dessa verktyg att göra en otjänst för de åtalade på den mottagande sidan."