Det mänskliga ansiktet är speciellt. Det är samtidigt offentligt och personligt. Våra ansikten avslöjar känslig information om oss:vilka vi är, förstås, men också vårt kön, känslor, hälsotillstånd med mera.

Lagstiftare i Australien, liksom de runt om i världen, hade aldrig förutsett att våra ansiktsdata skulle skördas i industriell skala och sedan användas i allt från våra smartphones till polisens CCTV-kameror. Så vi borde inte bli förvånade över att våra lagar inte har hållit jämna steg med den extraordinära ökningen av ansiktsigenkänningsteknik.

Men vilken typ av lagar behöver vi? Tekniken kan användas för både gott och ont, så varken att förbjuda den eller den nuvarande gratis-för-alla verkar idealisk.

Men regulatoriska misslyckanden har gjort vårt samhälle sårbart för skadlig användning av ansiktsigenkänning. För att fylla den juridiska luckan föreslår vi en "modelllag":en översikt över lagstiftning som regeringar runt om i Australien kan anta eller anpassa för att reglera riskfylld användning av ansiktsigenkänning samtidigt som den tillåter säkra sådana.

Utmaningen med teknik för ansiktsigenkänning

Användningsfallen för tekniker för ansiktsigenkänning verkar bara begränsas av vår fantasi. Många av oss tänker inte på att använda ansiktsigenkänning för att låsa upp våra elektroniska enheter. Ändå har tekniken också prövats eller implementerats i hela Australien i en mängd olika situationer, inklusive skolor, flygplatser, butiker, klubbar och spelställen och brottsbekämpning.

Eftersom användningen av ansiktsigenkänning ökar med uppskattningsvis 20 % årligen, ökar också risken för människor – särskilt i högrisksammanhang som polisarbete.

I USA har beroendet av felbenägen ansiktsigenkänningsteknik resulterat i många fall av orättvisa, särskilt med svarta människor. Dessa inkluderar den felaktiga arresteringen och frihetsberövandet av Robert Williams, och den felaktiga uteslutningen av en ung svart flicka från en rink i Detroit.

Många av världens största teknikföretag – inklusive Meta, Amazon och Microsoft – har minskat eller lagt ner sina ansiktsigenkänningsrelaterade tjänster. De har hänvisat till oro för konsumentsäkerhet och brist på effektiv reglering.

Detta är lovvärt, men det har också föranlett ett slags "reglerande marknadsmisslyckande". Medan dessa företag har dragit sig tillbaka har andra företag med färre skrupler tagit en större del av marknaden för ansiktsigenkänning.

Ta det amerikanska företaget Clearview AI. Den skrapade miljarder ansiktsbilder från sociala medier och andra webbplatser utan samtycke från de drabbade individerna, och skapade sedan en ansiktsmatchningstjänst som den sålde till den australiska federala polisen och andra brottsbekämpande organ runt om i världen.

År 2021 fann den australiensiska informations- och integritetskommissionären att både Clearview AI och AFP hade brutit mot Australiens integritetslagstiftning, men sådana här tillsynsåtgärder är sällsynta.

Australier vill dock ha bättre reglering av ansiktsigenkänning. Detta har visats i Australian Human Rights Commissions rapport från 2021, 2022 CHOICE-utredningen om användningen av ansiktsigenkänningsteknik av stora återförsäljare, och i forskning som vi på Human Technology Institute har beställt som en del av vår modelllag.

Alternativ för reform av ansiktsigenkänning

Vilka alternativ har Australien? Det första är att inte göra någonting. Men detta skulle innebära att vi accepterar att vi kommer att vara oskyddade från skadlig användning av ansiktsigenkänningsteknik och hålla oss på vår nuvarande väg mot massövervakning.

Ett annat alternativ skulle vara att helt förbjuda ansiktsigenkänningsteknik. Vissa jurisdiktioner har verkligen infört moratorier för tekniken, men de innehåller många undantag (för positiv användning) och är i bästa fall en tillfällig lösning.

Enligt vår åsikt är det bättre reformalternativet en lag för att reglera tekniker för ansiktsigenkänning efter hur riskabla de är. En sådan lag skulle uppmuntra ansiktsigenkänning med tydlig allmännytta, samtidigt som den skyddar mot skadlig användning av tekniken.

En riskbaserad lag för reglering av ansiktsigenkänningsteknik

Vår modelllag skulle kräva att alla som utvecklar eller använder system för ansiktsigenkänning i Australien gör en rigorös konsekvensbedömning för att utvärdera risken för mänskliga rättigheter.

I takt med att risknivån ökar, så skulle även de juridiska kraven eller begränsningarna göra det. Utvecklare skulle också behöva följa en teknisk standard för ansiktsigenkänning, anpassad till internationella standarder för AI-prestanda och bra datahantering.

Modelllagen innehåller ett generellt förbud mot högriskanvändning av applikationer för ansiktsigenkänning. Till exempel skulle en "ansiktsanalys"-applikation som utgavs för att bedöma individers sexuella läggning och sedan fatta beslut om dem vara förbjuden. (Tråkigt nog är detta ingen långsökt hypotetisk.)

Modelllagen ger också tre undantag från förbudet mot högriskteknik för ansiktsigenkänning:

1. tillsynsmyndigheten kan tillåta en högriskapplikation om den anser att ansökan är motiverad enligt internationell lag om mänskliga rättigheter
2. det skulle finnas en specifik rättsordning för brottsbekämpande myndigheter, inklusive ett system med "ansiktsorder" som skulle ge oberoende tillsyn som med andra sådana beslut.
3. högrisktillämpningar kan användas i akademisk forskning, med lämplig tillsyn.

Revision av tillsynsmyndigheten och berörda personer

Alla lagar skulle behöva upprätthållas av en tillsynsmyndighet med lämpliga befogenheter och resurser. Vem ska detta vara?

Majoriteten av de intressenter som vi rådfrågade – inklusive företagsanvändare, teknikföretag och företrädare för det civila samhället – föreslog att Office of the Australian Information Commissioner (OAIC) ​​skulle vara väl lämpad att vara tillsynsmyndighet för ansiktsreglering. För vissa, känsliga användare – som militären och vissa säkerhetsbyråer – kan det också behövas en specialiserad tillsynsregim.

Ögonblicket för reform är nu

Aldrig har vi sett så många grupper och individer från hela civilsamhället, industrin och regeringen så engagerade och inriktade på behovet av en reform av ansiktsigenkänningstekniken. Detta återspeglas i stödet för modelllagen från både Technology Council of Australia och CHOICE.

Med tanke på den extraordinära ökningen av användningen av ansiktsigenkänning, och en framväxande konsensus bland intressenter, bör den federala justitieministern ta detta ögonblick och leda nationella reformer. Den första prioriteringen är att införa ett federalt lagförslag – som lätt kan baseras på vår modelllag. Attorney-general bör också samarbeta med stater och territorier för att harmonisera australiensisk lag om ansiktsigenkänning.

Denna föreslagna reform är viktig på sina egna villkor:vi kan inte tillåta att tekniker för ansiktsigenkänning förblir effektivt oreglerade. Det skulle också visa hur Australien kan använda lagar för att skydda mot skadlig användning av ny teknik, samtidigt som det uppmuntrar innovation till allmännytta.

Mer information om modelllagen finns i vår rapport "Facial recognition technology:Towards a model law." + Utforska vidare

Ny rapport erbjuder en plan för reglering av teknik för ansiktsigenkänning

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.