Debatten om att polisen använder maskininlärning intensifieras – den anses på vissa håll vara lika kontroversiell som stopp och sök.

Stoppa och sök är ett av de mest kontroversiella områdena för hur polisen interagerar med allmänheten. Det har blivit hårt kritiserat för att vara diskriminerande mot svarta och etniska minoritetsgrupper, och för att ha marginella effekter för att minska brottsligheten. På samma sätt, polisens användning av maskininlärningsalgoritmer har fördömts av människorättsgrupper som hävdar att sådana program uppmuntrar rasprofilering och diskriminering tillsammans med hotande integritet och yttrandefrihet.

I stort sett, maskininlärning använder data för att lära datorer att fatta beslut utan att uttryckligen instruera dem hur de ska göra det. Maskininlärning används framgångsrikt i många branscher för att skapa effektivitet, prioritera risker och förbättra beslutsfattandet.

Även om de är i ett mycket tidigt skede, Polisen i Storbritannien undersöker fördelarna med att använda maskininlärningsmetoder för att förebygga och upptäcka brott, och att utveckla nya insikter för att ta itu med problem av betydande allmänhetens intresse.

Det är sant att det finns potentiella problem med all användning av probabilistiska maskininlärningsalgoritmer i polisarbete. Till exempel, när du använder historisk data, det finns risker att algoritmer, när man gör förutsägelser, kommer att diskriminera orättvist mot vissa grupper av människor. Men om polisen närmar sig användningen av denna teknik på rätt sätt, det borde inte vara lika kontroversiellt som stopp och sök och skulle kunna gå långt mot att polisen blir mer effektiv i att förebygga och lösa brott.

En modern polisutmaning

Tänk på fallet med den senaste tidens offentliga oro över att drillmusikvideor och deras unika lyriska innehåll påstås ha använts för att inspirera, uppvigla och förhärliga grovt våld.

Drillmusik har, under de senaste åren, spred sig till storstäder i Storbritannien. Sociala medieplattformar som YouTube och Instagram har, på samma gång, bevittnat en betydande ökning av drillmusikvideor som laddas upp online. Många av videorna, som visar manliga rappare som bär ansiktsmasker, använder våld, provokativt och nihilistiskt språk, få miljontals visningar.

Den högsta polisen i Storbritannien, Kommissionär Cressida Dick, har offentligt kritiserat drillmusikvideor, uppger att de används för att glamourisera mord och grovt våld och eskalera spänningar mellan rivaliserande gatugäng.

Många människor håller inte med om att polisen skyller på drillmusik. Anhängare av denna musikgenre hävdar att mord och våld inte är ett nytt fenomen, och bör inte betraktas som en orsak till drillartister som rappar om den hårda realiteten i sina levda upplevelser. Vissa akademiker är också oroade över att den nuvarande polisens synsätt "leder till kriminalisering av vardagliga sysslor" och att "unga människor från fattiga bakgrunder nu blir kategoriserade som bråkmakare genom att bara göra en musikvideo."

Ändå, till polisen, detta är en viktig fråga:de har ett lagstadgat ansvar att skydda liv och hantera risker för allmänheten. Som sådan, upptäcka skadligt onlineinnehåll som, till exempel, kan innehålla ett hot mot en persons liv, är både ett modernt operativt polisiärt problem, och ett svårlöst tekniskt problem som polisen måste kunna lösa.

Utveckla verktyg för maskininlärning

Poliser som manuellt tittar på stora mängder videor för att identifiera och urskilja skadligt och kriminellt innehåll från legitima kreativa uttryck är oerhört ineffektivt. Som sådan, det ska vara automatiserat. Ja, Det finns för närvarande betydande tekniska utmaningar för maskininlärningsalgoritmer för att förstå sådant unikt lyriskt innehåll. Men den här typen av problem, för forskare, passar väl in i det växande maskininlärningsområdet för naturlig språkbehandling. Detta är ett område som använder beräkningstekniker för att förstå mänskligt språk och tal.

Mer allmänt, det saknas forskning om den sociala påverkan av att polisen använder maskininlärning för att förebygga och upptäcka brott. Så under tiden, för att undvika kontroverser bör polisen inte förlita sig på ogenomskinliga "black box"-modeller för maskininlärning som inte har testats i ett operativt polisiärt sammanhang för att automatisera analysen av stora mängder data. Black box-modeller är med rätta kontroversiella eftersom de inte visar sin interna logik eller de processer som används för att fatta beslut.

En bättre väg framåt är att polisen samarbetar med experter och bygger maskininlärningsmodeller speciellt utformade för polisiära syften som bättre utnyttjar data för att hantera problem, som de som är inneboende med drillmusikvideor. Durham Constabulary, till exempel, har nyligen arbetat med forskare från University of Cambridge för att utveckla ett algoritmiskt riskbedömningsverktyg för att hjälpa till med beslut om framtida brott när en person arresteras av polisen.

På det här sättet, verktyg för maskininlärning kan etableras på allmänt accepterade vetenskapliga principer – med en nivå av transparens som kan användas för att stimulera allmänhetens stöd på sätt som stoppa och söka inte har kunnat göra.

Oro över transparens

I en färsk rapport, den brittiska tankesmedjan RUSI för försvar och säkerhet tog upp mer specifika farhågor om konceptet med att polisen använder maskininlärningsalgoritmer för att göra förutsägelser och stödja beslutsfattande. I synnerhet, den talar om begreppet "algoritmisk transparens" och svårigheten för icke-experter att förstå hur komplexa statistiska modeller används för att fatta beslut.

Rapporten gör en viktig poäng:om maskininlärning används i någon form av straffrättslig miljö, icke-experter bör kunna förstå hur beslut har fattats och avgöra om resultaten är korrekta och rättvisa.

Med alla saker i åtanke, polisens rektor använder maskininlärning för att identifiera risker och stödja beslutsfattande, inte – och bör inte – betraktas som en ny form av totalitarism som försöker urholka demokratiska rättigheter, förhindra yttrandefrihet, marginalisera svarta och etniska minoritetsgrupper.

Eftersom den ökande brottsligheten i Storbritannien nu är den viktigaste frågan för den brittiska allmänheten efter Brexit, maskininlärning – inom en lämplig etisk, regelverk och ramverk för allmänhetens förtroende – borde ha en plats i den moderna polisens verktygslåda för att förhindra brott och skydda allmänheten.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.