Tekniken för ansiktsigenkänning sprider sig snabbt. Redan utbredd i Kina, programvara som identifierar människor genom att jämföra bilder av deras ansikten mot en databas med register används nu i stora delar av resten av världen. Det är vanligt bland polisstyrkor men har även använts på flygplatser, järnvägsstationer och köpcentrum.

Den snabba tillväxten av denna teknik har utlöst en välbehövlig debatt. Aktivister, politiker, Akademiker och till och med polisstyrkor uttrycker allvarlig oro över vilken inverkan ansiktsigenkänning kan ha på en politisk kultur baserad på rättigheter och demokrati.

Mänskliga rättigheter

Som någon som forskar om framtiden för mänskliga rättigheter, Jag delar dessa farhågor. Här är tio anledningar till varför vi bör oroa oss för användningen av ansiktsigenkänningsteknik i offentliga utrymmen.

(1) Det sätter oss på en väg mot automatisk övergripande övervakning

CCTV är redan utbredd över hela världen, men för att regeringar ska kunna använda filmer mot dig måste de hitta specifika klipp där du gör något som de kan hävda som bevis. Teknik för ansiktsigenkänning tar övervakning till nya nivåer. Det möjliggör automatiserad och urskillningslös övervakning av människor under sin dagliga verksamhet, ger myndigheterna chansen att spåra alla dina rörelser.

(2) Det fungerar utan en tydlig rättslig eller reglerande ram

De flesta länder har ingen specifik lagstiftning som reglerar användningen av ansiktsigenkänningsteknik, även om vissa lagstiftare försöker ändra på detta. Detta juridiska limbo öppnar dörren till missbruk, som att skaffa våra bilder utan vår vetskap eller samtycke och använda dem på sätt som vi inte skulle godkänna.

(3) Det bryter mot principerna om nödvändighet och proportionalitet

En allmänt uttalad princip om mänskliga rättigheter, erkänt av organisationer från FN till London Polising Ethics Panel, är att övervakning ska vara nödvändig och proportionerlig. Detta innebär att övervakning bör begränsas till att utöva grov brottslighet istället för att möjliggöra det omotiverade ingreppet i vår frihet och grundläggande rättigheter. Tekniken för ansiktsigenkänning strider mot dessa principer. Det är en kontrollteknik som är symptomatisk för statens misstro mot sina medborgare.

(4) Det kränker vår rätt till privatliv

Rätten till integritet är viktig, även i offentliga utrymmen. Det skyddar uttrycket av vår identitet utan påkallade intrång från staten eller från privata företag. Ansiktsigenkänningsteknikens urskillningslösa och storskaliga inspelning, lagring och analys av våra bilder undergräver denna rättighet eftersom det innebär att vi inte längre kan göra något offentligt utan att staten vet om det.

(5) Det har en kylande effekt på vår demokratiska politiska kultur

Allmän övervakning kan avskräcka individer från att delta i offentliga evenemang. Det kan kväva deltagandet i politiska protester och kampanjer för förändring. Och det kan avskräcka icke-konformistiskt beteende. Denna kylande effekt är en allvarlig kränkning av rätten till mötesfrihet, förening, och uttryck.

(6) Det nekar medborgarna möjligheten till samtycke

Det saknas detaljerad och specifik information om hur ansiktsigenkänning faktiskt används. Detta innebär att vi inte ges möjlighet att samtycka till inspelningen, analysera och lagra våra bilder i databaser. Genom att neka oss möjligheten att samtycka, vi nekas val och kontroll över användningen av våra egna bilder.

(7) Det är ofta felaktigt

Ansiktsigenkänningsteknik lovar exakt identifiering. Men många studier har belyst hur algoritmerna som tränas på rasistiska datauppsättningar felidentifierar färgade personer, speciellt färgade kvinnor. Sådan algoritmisk fördom är särskilt oroande om den leder till olagliga arresteringar, eller om det leder till att offentliga myndigheter och privata företag diskriminerar kvinnor och personer med etnisk minoritetsbakgrund.

(8) Det kan leda till automationsbias

Om de som använder mjukvara för ansiktsigenkänning av misstag tror att tekniken är ofelbar, det kan leda till dåliga beslut. Denna "automationsbias" måste undvikas. Maskingenererade resultat bör inte avgöra hur statliga myndigheter eller privata företag behandlar individer. Utbildade mänskliga operatörer måste utöva meningsfull kontroll och fatta beslut baserat på lag.

(9) Det antyder att det finns hemliga regeringsbevakningslistor

Databaserna som innehåller våra ansiktsbilder bör ringa varningsklockor. De antyder att privata företag och brottsbekämpande myndigheter delar våra bilder för att skapa bevakningslistor över potentiella misstänkta utan vår vetskap eller medgivande. Detta är ett allvarligt hot mot våra individuella rättigheter och medborgerliga friheter. Säkerheten för dessa databaser, och deras sårbarhet för hackares handlingar, är också anledning till oro.

(10) Den kan användas för att rikta in sig på redan utsatta grupper

Ansiktsigenkänningsteknik kan användas för filtövervakning. Men det kan också distribueras selektivt, till exempel för att identifiera migranter och flyktingar. Försäljningen av mjukvara för ansiktsigenkänning till byråer som den kontroversiella amerikanska immigrations- och tullmyndigheten (ICE), som har kritiserats hårt för sin taktik i hanteringen av migranter, borde oroa alla som bryr sig om mänskliga rättigheter. Och användningen av handhållna mobila enheter med en app för ansiktsigenkänning av polisstyrkor väcker spöket av förbättrad rasprofilering på gatunivå.

Debatt är välbehövlig

Med så många bekymmer om ansiktsigenkänningsteknik, vi behöver desperat ett mer framträdande samtal om dess inverkan på våra rättigheter och medborgerliga friheter. Utan korrekt reglering av dessa system, vi riskerar att skapa dystopiska polisstater i det som en gång var fritt, demokratiska länder.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.