En eftermiddag i vårt labb testade jag och min kollega vår nya prototyp för ansiktsigenkänningsprogram på en bärbar dator. Programvaran använde en videokamera för att skanna våra ansikten och gissa vår ålder och kön. Den gissade min ålder korrekt men när min kollega, som var från Afrika, provade det, upptäckte kameran inget ansikte alls. Vi försökte tända ljus i rummet, justerade hennes sittplatser och bakgrund, men systemet kämpade fortfarande med att upptäcka hennes ansikte.

Efter många misslyckade försök upptäckte programmet äntligen hennes ansikte – men fick fel ålder och angav fel kön.

Vår programvara var bara en prototyp, men svårigheten att arbeta med mörkare hudtoner återspeglar upplevelserna hos färgade personer som försöker använda teknik för ansiktsigenkänning. Under de senaste åren har forskare visat orättvisorna i system för ansiktsigenkänning och funnit att mjukvaran och algoritmerna som utvecklats av stora teknikföretag är mer exakta på att känna igen ljusare hudtoner än mörkare.

Men nyligen rapporterade Guardian att det brittiska inrikeskontoret planerar att låta migranter som dömts för brott skanna sina ansikten fem gånger om dagen med en smart klocka utrustad med ansiktsigenkänningsteknik. En talesperson för inrikesministeriet sa att teknik för ansiktsigenkänning inte skulle användas på asylsökande som anländer till Storbritannien olagligt, och att rapporten om användningen av migrantförbrytare var "rent spekulativ."

Få rätt balans

Det kommer alltid att finnas en spänning mellan nationell säkerhet och individuella rättigheter. Säkerhet för många kan prioriteras framför integritet för ett fåtal. Till exempel, i november 2015 när terrorgruppen ISIS attackerade Paris och dödade 130 människor, hittade Parispolisen en telefon som en av terroristerna hade övergett på platsen och läste meddelanden som lagrats på den.

Det finns många nyanser i denna fråga. Vi måste fråga oss vems rättigheter som begränsas av integritetskränkning, i vilken grad och vem bedömer om ett integritetskränkande är i balans med hur allvarligt ett brott är?

När det gäller brottslingar som fotograferar sina ansikten flera gånger om dagen kan vi hävda att integritetskränkningen ligger i det nationella säkerhetsintresset för de flesta människor, om brottet är allvarligt. Regeringen har rätt att fatta ett sådant beslut eftersom den ansvarar för sina medborgares säkerhet. För mindre brott kan ansiktsigenkänning dock vara en alltför stark åtgärd.

Inrikesministeriet har i sin plan inte gjort någon skillnad mellan mindre och grova lagöverträdare; Det har inte heller gett övertygande bevis för att ansiktsigenkänning förbättrar människors efterlevnad av immigrationslagstiftningen.

Över hela världen vet vi att ansiktsigenkänning är mer sannolikt att användas för att polisa färgade personer genom att övervaka deras rörelser oftare än vita människors. Detta trots att ansiktsigenkänningssystem är mer exakta med ljusare än mörkare hudtoner.

Att ta en bild av ditt ansikte och ladda upp den fem gånger om dagen kan kännas förnedrande. Fel med mörkare hudtoner kan göra att checka in i systemet mer än bara en frustrerande upplevelse. Det kan få allvarliga konsekvenser för lagöverträdarna om tekniken misslyckas.

Bristerna i ansiktsigenkänning kan också skapa nationella säkerhetsproblem för regeringen. Till exempel kan det felidentifiera en persons ansikte som en annan. Tekniken för ansiktsigenkänning är inte redo för något så viktigt som nationell säkerhet.

Alternativet

Ett annat alternativ som regeringen överväger för migrantbrottslingar är platsspårning. Elektronisk övervakning håller redan reda på personer med kriminalregister i Storbritannien som använder fotledstaggar, och det skulle vara vettigt att tillämpa samma teknik på invandrar- och icke-migrantbrottslingar lika mycket.

Platsspårning kommer med sina egna etiska frågor för personlig integritet och rasövervakning. På grund av den elektroniska övervakningens påträngande karaktär kan vissa personer som bär dessa enheter drabbas av depression, ångest eller självmordstankar.

Men platsspårningsteknik ger åtminstone alternativ. Data kan till exempel hanteras på ett känsligt sätt genom att följa riktlinjer för datasekretess, såsom Storbritanniens dataskyddslag 2018. Vi kan minimera mängden platsdata vi samlar in genom att bara spåra någons plats en eller två gånger om dagen. Vi kan anonymisera uppgifterna, bara göra personers namn synliga när och där det behövs.

Det brittiska inrikeskontoret kan använda platsdata för att flagga misstänkt aktivitet, till exempel om en gärningsman går in i ett område som de har spärrats från. För mindre lagöverträdare behöver vi inte spåra personens exakta plats utan bara det allmänna området, till exempel ett postnummer eller ort.

Som samhälle bör vi sträva efter att upprätthålla människors värdighet och integritet, utom i de allvarligaste fallen. Ännu viktigare är att vi bör säkerställa att tekniken inte har potential att diskriminera en grupp människor baserat på deras etnicitet. Lagen och förordningen bör gälla lika för alla människor.

Inrikesministeriets talesperson tillade:"Allmänheten förväntar sig att vi ska övervaka dömda utländska medborgare förövare ... Utländska brottslingar bör inte tvivla på vår beslutsamhet att utvisa dem, och regeringen gör allt för att öka antalet utländska medborgare som utvisas. " + Utforska vidare

Ansiktsigenkänning var nyckeln till att identifiera amerikansk skjutningsmisstänkt

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.