Den amerikanska teknikjätten Microsoft har samarbetat med ett kinesiskt militärt universitet för att utveckla system för artificiell intelligens som potentiellt kan förbättra regeringens övervakning och censur. Två amerikanska senatorer fördömde offentligt partnerskapet, men vad National Defense Technology University of China vill ha från Microsoft är inte det enda problemet.

Som min forskning visar, framväxten av digitalt förtryck påverkar i grunden förhållandet mellan medborgare och stat. Ny teknik ger regeringarna oöverträffade möjligheter att övervaka, spåra och övervaka enskilda personer. Även regeringar i demokratier med starka rättsstatstraditioner blir frestade att missbruka dessa nya förmågor.

I stater med ansvarslösa institutioner och ofta kränkande av mänskliga rättigheter, AI -system kommer sannolikt att orsaka större skada. Kina är ett framstående exempel. Dess ledarskap har entusiastiskt omfamnat AI -teknik, och har inrättat världens mest sofistikerade övervakningsstat i Xinjiang -provinsen, spåra medborgarnas dagliga rörelser och smartphone -användning.

Dess utnyttjande av denna teknik utgör en svalkande modell för andra autokrater och utgör ett direkt hot mot öppna demokratiska samhällen. Även om det inte finns några bevis för att andra regeringar har replikerat denna nivå av AI -övervakning, Kinesiska företag exporterar aktivt samma underliggande teknik över hela världen.

Ökande beroende av AI -verktyg i USA

System för artificiell intelligens finns överallt i den moderna världen, hjälper till att köra smartphones, sökmotorer på internet, digitala röstassistenter och Netflix filmköer. Många inser inte hur snabbt AI expanderar, tack vare ständigt ökande mängder data som ska analyseras, förbättra algoritmer och avancerade datorchips.

När som helst mer information blir tillgänglig och analys blir lättare, regeringar är intresserade - och inte bara auktoritära. I USA., till exempel, på 1970 -talet uppenbarades att statliga myndigheter - som FBI, CIA och NSA - hade inrättat expansiva inhemska övervakningsnät för att övervaka och trakassera medborgerliga demonstranter, politiska aktivister och indianska grupper. Dessa frågor har inte försvunnit:Digital teknik idag har fördjupat möjligheten för ännu fler byråer att genomföra ännu mer påträngande övervakning.

Till exempel, Amerikansk polis har ivrigt anammat AI -teknik. De har börjat använda programvara som är avsedd att förutsäga var brott kommer att hända för att avgöra vart de ska skicka poliser till patrull. De använder också ansiktsigenkänning och DNA -analys i brottsutredningar. Men analyser av dessa system visar att data som dessa system tränas på ofta är partiska, som leder till orättvisa resultat, som att felaktigt fastställa att afroamerikaner är mer benägna att begå brott än andra grupper.

AI -övervakning runt om i världen

I auktoritära länder, AI -system kan direkt påverka inhemsk kontroll och övervakning, hjälpa interna säkerhetsstyrkor att bearbeta massiva mängder information - inklusive sociala medier, textmeddelanden, e -post och telefonsamtal - snabbare och effektivare. Polisen kan identifiera sociala trender och specifika personer som kan hota regimen utifrån den information som dessa system avslöjar.

Till exempel, den kinesiska regeringen har använt AI i omfattande angrepp i regioner som är hem för etniska minoriteter i Kina. Övervakningssystem i Xinjiang och Tibet har beskrivits som "Orwellian". Dessa insatser har inkluderat obligatoriska DNA -prover, Wi-Fi-nätverksövervakning och utbredda ansiktsigenkänningskameror, alla anslutna till integrerade dataanalysplattformar. Med hjälp av dessa system, Kinesiska myndigheter har, enligt det amerikanska utrikesdepartementet, "godtyckligt kvarhållen" mellan 1 och 2 miljoner människor.

Min forskning tittar på 90 länder runt om i världen med regeringstyper som sträcker sig från slutna auktoritära till bristfälliga demokratier, inklusive Thailand, Kalkon, Bangladesh och Kenya. Jag har funnit att kinesiska företag exporterar AI -övervakningsteknik till minst 54 av dessa länder. Ofta, denna teknik är förpackad som en del av Kinas flaggskepp Belt and Road Initiative, som finansierar ett omfattande nätverk av vägar, järnvägar, energirörledningar och telekommunikationsnät som betjänar 60% av världens befolkning och ekonomier som genererar 40% av den globala BNP.

Till exempel, Kinesiska företag som Huawei och ZTE bygger "smarta städer" i Pakistan, Filippinerna och Kenya, med omfattande inbyggd övervakningsteknik. Till exempel, Huawei har utrustat Bonifacio Global City i Filippinerna med högupplösta internetanslutna kameror som tillhandahåller "intelligent säkerhetsövervakning dygnet runt med dataanalys för att upptäcka brott och hjälpa till att hantera trafik."

Hikvision, Yitu och SenseTime levererar toppmoderna ansiktsigenkänningskameror för användning på platser som Singapore-som meddelade inrättandet av ett övervakningsprogram med 110, 000 kameror monterade på lampstolpar runt om i stadsstaten. Zimbabwe skapar en nationell bilddatabas som kan användas för ansiktsigenkänning.

Dock, Att sälja avancerad utrustning för vinst är annorlunda än att dela teknik med ett uttryckligt geopolitiskt syfte. Dessa nya möjligheter kan plantera fröna för global övervakning:När regeringar blir alltmer beroende av kinesisk teknik för att hantera sin befolkning och behålla makten, de kommer att möta större tryck för att anpassa sig till Kinas agenda. Men för närvarande verkar det som om Kinas främsta motiv är att dominera marknaden för ny teknik och tjäna mycket pengar i processen.

AI och desinformation

Förutom att tillhandahålla övervakningskapacitet som är både svepande och finkornig, AI kan hjälpa förtryckande regeringar att manipulera tillgänglig information och sprida desinformation. Dessa kampanjer kan vara automatiserade eller automatiserade, och distribuera hyperpersonaliserade meddelanden riktade till-eller mot-specifika personer eller grupper.

AI ligger också till grund för tekniken som vanligtvis kallas "deepfake, "i vilken algoritmer skapar realistiska video- och ljudförfalskningar. Att lera vattnet mellan sanning och fiktion kan bli användbart i ett stramt val, när en kandidat kunde skapa falska videor som visar en motståndare som gör och säger saker som aldrig hände.

Från min synvinkel, beslutsfattare i demokratier bör tänka noga över riskerna med AI -system för sina egna samhällen och för människor som lever under auktoritära regimer runt om i världen. En kritisk fråga är hur många länder som kommer att anta Kinas modell för digital övervakning. Men det är inte bara auktoritära länder som känner dragningen. Och det är inte bara kinesiska företag som sprider tekniken:Många amerikanska företag, Microsoft ingår, men IBM, Cisco och Thermo Fisher också har tillhandahållit sofistikerade möjligheter till otäcka regeringar. Missbruk av AI är inte begränsat till autokratiska stater.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.