Tänk dig att du bor i en smart stad som känner ditt ansikte och följer varje steg - platserna du går på, människorna du ser, och allt du gör längs vägen.

Över tid, autonom artificiell intelligens (AI) bygger en profil som rapporterar om hur troligt du är att begå ett brott. När den risken är hög, polisen vidtar förebyggande åtgärder. Välkommen till hyperövervakning och nästa generation av förutsägande polisarbete.

Både Indien och Kina genomför för närvarande denna nivå av övervakning för att minska brottsligheten och upptäcka terrorister innan de slår till.

Japan tittar också på förutsägande system inför OS i Tokyo 2020. London och på andra håll i Storbritannien har använt liknande teknik under en tid.

Det kan redan hända i staden där du bor.

Genomträngande, realtidsövervakning som denna är möjlig eftersom mer kraftfull, datorkrossande datorer kan bearbeta torrenterna i ansiktsigenkänning och gånganalysdata från tusentals videokameror, allt samordnat av avancerad AI som kan ge mening om det hela.

Inte för så länge sedan, vi förlitade oss på örnögda polispatruller för att säkerställa allmän säkerhet. Det var då vi bodde i tillräckligt små samhällen där människor kände varandra av syn.

Men när städerna fortsatte att växa, blir för stor för polisen ensam, sluten krets -tv (CCTV), ansiktsigenkänning och tidigare generations prediktiva system kom i bruk.

Hyperövervakningens moral

Åsikterna är delade om förutsägande polisens etik.

Sekretessförespråkare och civil libertarians har oro, om inte invändningar, till denna nivå av övervakning - fruktar att det kan bli ett instrument för diskriminering.

Under tiden, förespråkare för allmän säkerhet och terrorism bekämpar att prediktiv teknik har stor potential att motverka terrorattacker och andra hot mot allmän säkerhet.

Båda argumenten har kraft och giltighet, så frågan är var exakt drar vi gränsen mellan allmänintresset och individuell frihet?

Svaret kommer att skilja sig från fall till fall. Varje jurisdiktion måste förhandla fram svaret med hänsyn till alla intressenters oro.

Sedan terrorister attackerade i USA den 11 september, 2001 har graden av övervakning och sökning på flygplatser ökat dramatiskt.

I tid, den resande allmänheten kom att acceptera situationen som i sitt eget bästa och deras medpassagerares bästa.

Sekretess börjar och slutar vid ytterdörren

Det är allmänt accepterat att du har rätt till integritet i ditt eget hem. När du stänger ytterdörren, du kan rimligen förvänta dig att ingen tittar och lyssnar.

Undantaget är när du är hemma men engagerad i kriminell verksamhet som hotar samhället. Det är här vi drar gränsen i detta fall mellan individuella rättigheter och det större goda.

Men när du går ut, vem som helst kan titta på dig om de vill. De kan också höra konversationen du har. Det finns ingen rätt till integritet från den offentliga blicken, och har aldrig varit det.

Men att titta är annorlunda än att göra förutsägelser - och den obekväma sanningen är att tekniken för prediktiv polis har potential att användas som ett förtryckningsverktyg. Hantera denna risk öppet, Det demokratiska samhället är verkligen en utmaning, men inte en oöverstiglig sådan med kontroller och saldon.

Väg upp riskerna och fördelarna

Med tanke på den övergripande erfarenheten av förutsägande polisarbete, det verkar finnas ett starkt argument för dess fortsatta användning.

I Australien, till exempel, 15 terrorattacker motverkades enligt uppgift under de senaste tre åren genom polisarbete som stöds av datoralgoritmer.

Frågan är, hur minimerar vi riskerna till en acceptabel nivå?

Det korta svaret är att upprätta en rättslig ram som garanterar etisk öppenhet i alla AI -prediktiva polismetoder, inklusive hur algoritmerna sätts ihop.

Det skulle också noggrant säkerställa att data som matas in i förutsägbara system är korrekt och opartisk. Som med alla datorsystem, utgången är bara lika bra som ingången - skräp i, skräp ut, som man brukar säga.

Detta är nödvändigt för att hantera pågående bekymmer om inneboende fördomar i förutsägbara system.

Det har observerats att inte alla polisstyrkor är skapade lika. I USA finns det inte mindre än 12, 000 lokala polisstyrkor. Det finns säkert skillnader, återspeglas i kvaliteten på ledarskapet och tillgången på resurser.

Mänskligt/AI -partnerskap

Polisen är inte perfekt och mänskliga tjänstemän får det inte rätt hela tiden.

Men när det gäller AI inom polisarbete, Jag tror att det alltid bör finnas en plats inom brottsbekämpningen för de finslipade instinkterna hos en erfaren mänsklig officer som dämpas av ett system med kontroller och balans.

Tekniken bör alltid vara underordnad människan, ta rollen som beslutsstödhjälpare.

På det sättet, när epoken med övervakning anländer till din hemstad, det kommer att vara en ansvarsfull människa, inte en maskin - hur intelligent den än är - som avgör om en person utgör en allvarlig risk för allmän säkerhet.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.