Kredit:Pixabay/CC0 Public Domain
En ny rapport från University of Technology Sydney (UTS) Human Technology Institute skisserar en modelllag för ansiktsigenkänningsteknik för att skydda mot skadlig användning av denna teknik, men också främja innovation till allmän nytta.
Australisk lag utarbetades inte med en utbredd användning av ansiktsigenkänning i åtanke. Ledd av UTS industriprofessorerna Edward Santow och Nicholas Davis, rekommenderar rapporten reformer för att modernisera australiensisk lagstiftning, särskilt för att ta itu med hot mot privatlivet och andra mänskliga rättigheter.
Ansiktsigenkänning och andra avlägsna biometriska teknologier har vuxit exponentiellt under de senaste åren, vilket ger upphov till oro för integriteten, massövervakningen och orättvisor som upplevs, särskilt av färgade och kvinnor, när tekniken gör misstag.
I juni 2022 avslöjade en undersökning av konsumentorganisationen CHOICE att flera stora australiensiska återförsäljare använde ansiktsigenkänning för att identifiera kunder som gick in i deras butiker, vilket ledde till avsevärt larm i samhället och krav på förbättrad reglering. Det har också funnits utbredda krav på en reform av lagen om ansiktsigenkänning – i Australien och internationellt.
Den här nya rapporten svarar på dessa uppmaningar. Den erkänner att våra ansikten är speciella, i den meningen att människor förlitar sig mycket på varandras ansikten för att identifiera och interagera. Detta beroende gör oss särskilt sårbara för mänskliga rättigheter när denna teknik missbrukas eller överanvänds.
"När applikationer för ansiktsigenkänning utformas och regleras väl kan det finnas verkliga fördelar som hjälper till att identifiera människor effektivt och i stor skala. Tekniken används i stor utsträckning av människor som är blinda eller har en synnedsättning, vilket gör världen mer tillgänglig för dessa grupper ", sa professor Santow, den tidigare australiensiska människorättskommissionären och nu meddirektör för Human Technology Institute.
"Den här rapporten föreslår en riskbaserad modelllag för ansiktsigenkänning. Utgångspunkten bör vara att säkerställa att ansiktsigenkänning utvecklas och används på ett sätt som upprätthåller människors grundläggande mänskliga rättigheter", sade han.
"Klyftorna i vår nuvarande lag har skapat ett slags regulatoriskt marknadsmisslyckande. Många respekterade företag har dragit sig tillbaka från att erbjuda ansiktsigenkänning eftersom konsumenterna inte är ordentligt skyddade. De företag som fortfarande erbjuder inom detta område behöver inte fokusera på de grundläggande rättigheterna av människor som påverkas av den här tekniken", säger professor Davis, en tidigare medlem av den verkställande kommittén vid World Economic Forum i Genève och meddirektör för Human Technology Institute.
"Många organisationer inom det civila samhället, statliga och mellanstatliga organ och oberoende experter har slagit larm om faror förknippade med nuvarande och förutspådda användningar av ansiktsigenkänning", sade han.
Denna rapport uppmanar den australiensiska justitiekanslern Mark Dreyfus att leda en nationell reformprocess för ansiktsigenkänning. Detta bör börja med att införa ett lagförslag i det australiensiska parlamentet baserat på den modelllag som anges i rapporten.
Rapporten rekommenderar också att tilldela myndighetsansvar till Office of the Australian Information Commissioner för att reglera utvecklingen och användningen av denna teknik i den federala jurisdiktionen, med ett harmoniserat tillvägagångssätt i delstats- och territoriumjurisdiktioner.
Modelllagen anger tre nivåer av risker för mänskliga rättigheter för individer som påverkas av användningen av en speciell ansiktsigenkänningsteknologiapplikation, såväl som risker för det bredare samhället.
Enligt modelllagen måste alla som utvecklar eller använder teknik för ansiktsigenkänning först bedöma nivån på risken för mänskliga rättigheter som skulle gälla för deras tillämpning. Den bedömningen kan sedan ifrågasättas av allmänheten och tillsynsmyndigheten.
Baserat på riskbedömningen anger modelllagen sedan en kumulativ uppsättning lagkrav, begränsningar och förbud.
Rapporten, Facial Recognition Technology:toward a model law, har skrivits av professor Nicholas Davis, professor Edward Santow och Lauren Perry från Human Technology Institute, UTS. + Utforska vidare
