Queensland Police Service (QPS) förväntas inleda en rättegång med hjälp av artificiell intelligens (AI) för att fastställa den framtida risken som kända förövare av våld i hemmet utgör.

Gärningsmän som identifierats som "hög risk" – baserat på tidigare samtal till en adress, tidigare kriminell aktivitet och annan polishållen data – kommer att besökas hemma av polis innan våldet i hemmet eskalerar, och innan något brott har begåtts.

Det är nödvändigt att hitta bättre sätt att förbättra säkerheten för kvinnor som utsätts för våld i hemmet. Dock, att använda AI-teknik i detta sammanhang kan få oavsiktliga konsekvenser – och den föreslagna planen väcker allvarliga frågor om polisens roll för att förhindra incidenter med våld i hemmet.

Tillvägagångssättet bygger på en algoritm som har utvecklats från befintliga QPS administrativa data (QPRIME). Alla statistiska algoritmer måste bedöma risk baserat på tillgängliga data, vilket i sin tur innebär att de bara är så bra som de data som ligger till grund för dem.

Experter som kritiserar användningen av datadrivna riskbedömningsverktyg inom polisväsendet pekar på bristen på transparens i de specifika typerna av data som analyseras, samt hur förutsägelser baserade på dessa data agerar.

På grund av hur polisen fungerar, de viktigaste uppgifterna som mest konsekvent fångas är information om tidigare situationer som polisen har kallats till, och brottshistorik.

Att använda denna information för att träna en AI-algoritm kan förstärka befintliga fördomar i det straffrättsliga systemet. Det skulle kunna skapa en oändlig återkopplingsslinga mellan polisen och de medlemmar av allmänheten som har mest kontakt med polisen.

I Australien, de är aboriginer och Torres Strait Islander-folk. Det är inte svårt att föreställa sig att under denna nya regim kommer invånare från aboriginerna och Torres Strait Islander att besökas mer av polisen.

QPS-representanten Ben Martain har sagt att polisen inte kommer att kunna åtala någon som de knackar på för ett framtida misstänkt brott.

Han sa också för piloten, attribut för etnicitet och geografisk plats togs bort innan AI-modellen tränades. Men trots detta, det verkar troligt att invånare från aboriginerna och Torres Strait Islander kommer att fortsätta att bli oproportionerligt riktade, eftersom de är överrepresenterade i all slags poliskontakt.

Inför risk

Syftet med sådana AI-baserade strategier inom polisväsendet är att förebygga eller minska brottslighet, genom en bedömning av risken för framtida brott. I teorin, Detta innebär att polisen skulle ingripa tidigt för att stoppa ett brott från att inträffa i första hand.

Dock, med detta tillvägagångssätt finns det risker som polisen kan skapa brottslighet. En ouppfordrad dörrknackning från polisen skulle vara ovälkommen i de flesta hushåll – än mindre ett där poliser tidigare har varit på plats för att genomföra sökningar eller arrestera.

I detta "förebyggande" program, förövare och de offer de lever med kan vara nervösa, upprörda eller till och med arga över polisens intrång i deras hem utan uppenbar anledning.

En besökt person kan använda stötande språk eller vägra att uppge sitt namn. Det skulle inte vara förvånande om detta ledde till åtal.

Sådana anklagelser kan leda till att den besökte personen blir ännu mer nervös, upprörd eller arg, och sedan kan de upptäcka att de är åtalade för misshandel och motstånd mot polisen. Detta är populärt känt som "trifecta", varvid en person som annars inte har kränkt slutligen åtalas för kränkande språkbruk, motsätter sig arrestering och misshandel av polis.

Standardbefogenheterna i polisens verktygslådan är att gripa och åtala. Med QPS föreslagna plan, det finns en uppenbar risk att kriminaliseringsnätet vidgas för båda förövarna, samt offer som kan felidentifieras som förövare. Till exempel, ibland har offer som använt våld i självförsvar gripits istället för förövaren.

Att orsaka ytterligare skada för offren

Offrets roll i ett sådant program är också oroande. Alla program som fördjupar övervakningen av förövare fördjupar också övervakningen av offer.

Offren vill inte alltid att polisen ska ingripa i deras liv. I vissa fall, denna form av proaktiv polisverksamhet kan kännas som en förlängning av kontrollen, istället för att hjälpa. Vad händer när polisen besöker och upptäcker att en högriskförövare och ett offer lever tillsammans igen?

Offren kan frukta att barnskyddsmyndigheter kommer att bli inblandade och känna sig tvungna att täcka över att de fortfarande är hos förövaren. Och när ett offer väl har blivit pressat att ljuga, de kan vara ovilliga att ringa polisen nästa gång de behöver polisingripande.

I vissa fall, gärningsmannen eller offret kan besluta sig för att inte följa säkerhetsråden från poliser som besöker. Det är oklart vad polisen kan göra i en situation där de ber en gärningsman att lämna, eller försöka ta ett offer i säkerhet, men de vägrar.

Syftet med varje ingripande av våld i hemmet bör vara att återställa makten till offren. Men vi vet att interventioner inte hjälper alla kvinnor (eller män) lika. Strukturella ojämlikheter, inklusive ras och klass, innebär att interventioner upplevs olika av olika människor.

Kommer ett offer att ha att säga till om polisen ägnar sig åt proaktivt polisarbete mot sin förövare? Ska de ha något att säga till om?

Finns det säkrare alternativ?

I samband med riskbedömning, många experter hävdar att kvinnor ofta (men inte alltid) har en stark känsla av när de löper förhöjd risk.

Familjerättsbeordrade kontaktbesök kan vara ett av dessa ögonblick med hög risk. Men i dessa situationer rapporterar kvinnor ofta att polisen vägrar hjälpa till att hålla dem och deras barn säkra. Hur inkluderas offrets röst i riskbedömningen med detta verktyg?

En särskild oro är om polisen verkligen är rustad att ingripa under omständigheter där det inte finns något brott. QPS representant Ben Martain sa när förövarna "inte befinner sig i en krissituation, i ett förhöjt känslomässigt tillstånd, eller påverkas av droger eller alkohol" - de är "i allmänhet mer mottagliga för att inse detta som en vändpunktsmöjlighet i deras liv."

Men polisen själva har ifrågasatt deras roll i förhållande till våld i hemmet – istället lyft fram den potentiella roll som socialarbetare kan ha, i deras ställe.

Det är inte klart om polisen är den bäst lämpade tjänsten att ingripa när det inte finns någon identifierad störning. Queensland har redan protokoll för informationsdelning som involverar team som specifikt har till uppgift att reagera på personer som är inblandade i förhållanden med högriskvåld i hemmet. Dessa team inkluderar samhällsbaserade stödarbetare.

Detta kan vara en bättre väg för intervention under dessa kritiska perioder av lugn.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.