Ansiktsigenkänningsteknik används i krigföring för första gången. Det kan vara en game changer i Ukraina, där det används för att identifiera de döda och återförena familjer. Men om vi misslyckas med att brottas med etiken i denna teknik nu, kan vi hamna i ett minfält för mänskliga rättigheter.

Ukrainas försvarsministerium har använt Clearview AI ansiktsigenkänningsprogram sedan mars 2022 för att bygga upp ett fall för krigsförbrytelser och identifiera de döda – både ryska och ukrainska. Ministeriet för digital transformation i Ukraina sa att de använder Clearview AI-teknik för att ge ryssarna chansen att uppleva den "verkliga kostnaden för kriget", och för att låta familjer veta att om de vill hitta sina nära och käras kroppar är de " välkommen att komma till Ukraina".

Ukraina får fri tillgång till programvaran. Den används också vid checkpoints och kan hjälpa till att återförena flyktingar med sina familjer.

Sekretessreaktionen

Förra månaden bötfällde emellertid UK Information Commissioner's Office (ICO) Clearview AI med mer än 7,5 miljoner pund för att ha samlat in bilder på människor i Storbritannien och på andra håll från webben och sociala medier. Det beordrades att radera bilderna och sluta erhålla och använda personliga uppgifter om brittiska invånare som är allmänt tillgängliga på internet. Ursprungligen sa ICO att de hade för avsikt att bötfälla Clearview AI med 17 miljoner pund.

Enligt ICO, med tanke på det enorma antalet användare av sociala medier i Storbritannien, kommer Clearview AI:s ansiktsdatabas sannolikt att innehålla en betydande mängd bilder som samlats in utan samtycke.

En advokat för Clearview, AI Lee Wolosky, sa:"Även om vi uppskattar ICO:s önskan att sänka deras penningavgift på Clearview AI, står vi ändå fast vid vår ståndpunkt att beslutet att utdöma böter är felaktigt enligt lag. Clearview AI är inte föremål för ICO:s jurisdiktion, och Clearview AI bedriver ingen verksamhet i Storbritannien för närvarande."

Clearview AI har sagt att de vill ha 100 miljarder ansiktsbilder i sin databas i början av 2023 – motsvarande 14 för varje person på jorden. Flera bilder av samma person förbättrar systemets noggrannhet.

Enligt Clearview AI:s webbplats hjälper dess ansiktsigenkänningsteknik brottsbekämpande myndigheter att hantera brott och gör det möjligt för transportföretag, banker och andra kommersiella företag att upptäcka stöld, förhindra bedrägerier och verifiera identiteter.

Buzzfeed rapporterade i februari 2020 att flera brittiska polisstyrkor tidigare har använt Clearview AI. En taleskvinna för Clearview AI sa att polisen i Storbritannien inte har tillgång till dess teknik, medan talespersoner för både National Crime Agency och Metropolitan Police varken skulle bekräfta eller förneka användningen av specifika verktyg eller tekniker. Men i mars 2022 publicerade College of Policing en ny vägledning för brittiska polisstyrkor om användningen av levande ansiktsigenkänning.

Den brittiska regeringen planerar att ersätta viktiga människorättslagar med en ny Modern Bill of Rights som kan göra det svårt, för att inte säga omöjligt, för människor att utmana beslut baserade på AI-bevis i domstol, inklusive ansiktsigenkänning.

Enligt förespråkargruppen Liberty kommer lagförslaget sannolikt att få en oproportionerlig inverkan på överpoliserade samhällen, eftersom det skulle skapa olika klasser av käranden baserat på deras tidigare beteende.

Ett verktyg för krigföring

Clearview AI:s vd Hoan Ton-That sa att dess ansiktsigenkänningsprogram har gjort det möjligt för ukrainska brottsbekämpande myndigheter och myndigheter att lagra mer än 2 miljarder bilder från VKontakte, en rysk social nätverkstjänst. Hoan sa att programvaran kan hjälpa ukrainska tjänstemän att identifiera döda soldater mer effektivt än fingeravtryck och fungerar även om en soldats ansikte är skadat.

Men det finns motstridiga bevis om ansiktsigenkänningsprograms effektivitet. Enligt US Department of Energy kan nedbrytning av en persons ansikte minska programvarans noggrannhet. Å andra sidan visade nyare vetenskaplig forskning resultat relaterade till identifiering av döda människor som liknade eller bättre än mänsklig bedömning.

Forskning tyder på att fingeravtryck, tandjournaler och DNA fortfarande är de mest tillförlitliga identifieringsteknikerna. Men de är verktyg för utbildade proffs, medan ansiktsigenkänning kan användas av icke-experter.

Ett annat problem som flaggats av forskning är att ansiktsigenkänning av misstag kan para ihop två bilder eller misslyckas med att matcha bilder av samma person. I Ukraina kan konsekvenserna av eventuella fel med AI bli katastrofala. En oskyldig civil kan dödas om de felaktigt identifieras som en rysk soldat.

En kontroversiell historia

2016 började Hoan rekrytera datavetenskapliga ingenjörer för att skapa Clearview AI:s algoritm. Men det var inte förrän 2019 som det amerikanska ansiktsigenkänningsföretaget började diskret tillhandahålla sin programvara till amerikansk polis och brottsbekämpande myndigheter.

I januari 2020, New York Times publicerade sin berättelse:'The Secretive Company That Might End Privacy as We Know It'. Den här artikeln fick mer än 40 organisationer för medborgerliga rättigheter och teknik att skicka ett brev till Privacy and Civil Liberties Oversight Board och fyra amerikanska kongresskommittéer och krävde att Clearview AI:s mjukvara för ansiktsigenkänning skulle stängas av.

I februari 2020, efter en dataläcka av Clearview AI:s kundlista, avslöjade BuzzFeed att Clearview AI:s mjukvara för ansiktsigenkänning användes av individer i mer än 2 200 brottsbekämpande avdelningar, statliga myndigheter och företag i 27 olika länder.

Den 9 maj 2022 gick Clearview AI med på att sluta sälja åtkomst till sin ansiktsdatabas till individer och företag i USA, efter att American Civil Liberties Union inlett en rättegång där Clearview AI anklagades för att ha brutit mot en integritetslagstiftning i Illinois.

Under de senaste två åren har dataskyddsmyndigheter i Kanada, Frankrike, Italien, Österrike och Grekland alla bötfällt, undersökt eller förbjudit Clearview AI att samla in bilder på människor.

Framtiden för Clearview AI i Storbritannien är osäker. Det värsta scenariot för vanliga människor och företag skulle vara om den brittiska regeringen misslyckas med att ta till sig de farhågor som tagits upp som svar på dess samråd om Modern Bill of Rights. Liberty har varnat för ett potentiellt "maktgrepp" för mänskliga rättigheter.

Det bästa resultatet, enligt min mening, skulle vara att den brittiska regeringen skrotade sina planer för en modern Bill of Rights. Detta skulle också innebära att brittiska domstolar bör fortsätta att ta hänsyn till fall från Europeiska domstolen för mänskliga rättigheter som rättspraxis.

Om inte lagar som reglerar användningen av ansiktsigenkänning antas, riskerar polisens användning av denna teknik att bryta mot integritetsrättigheter, dataskydd och jämställdhetslagar.