South Australia har börjat testa en ny COVID-app för att övervaka ankomster till staten. SA premiärminister Steven Marshall hävdade att "alla södra australiensare borde känna sig ganska stolta över att vi är den nationella piloten för den hembaserade karantänappen."

Han fördubblade sedan med skrytet att han var "ganska säker på att tekniken som vi har utvecklat inom södra Australiens regering kommer att bli den nationella standarden och kommer att rullas ut över hela landet."

Victoria har också meddelat förestående "teknologiskt stödd" hemkarantän, även om detaljerna är oklara. Hemkarantän kommer så småningom också att finnas tillgänglig för internationella ankomster, enligt premiärminister Scott Morrison.

Den sydaustraliska appen har fått lite uppmärksamhet i Australien, men i USA kallade den vänsterinriktade tidningen Atlantic det "lika orwellskt som någon annan i den fria världen". Högerorienterade butiker som Fox News och Breitbart anslöt sig också till attacken, och för en gångs skull finner jag att jag håller med dem.

Platsspårning och ansiktsigenkänning

Trots SA Premiers påståenden, det här är inte den första sådan app som används i Australien. En liknande app för hemkarantän används redan för ankomster till WA, och i vissa fall Northern Territory.

Båda apparna använder geolokalisering och mjukvara för ansiktsigenkänning för att spåra och identifiera dem i karantän. Användare måste bevisa att de är hemma när de slumpmässigt uppmanas av applikationen.

I SA, du har 15 minuter på dig att skaffa ansiktsigenkänningsprogramvaran för att verifiera att du fortfarande är hemma. I WA, det är mer en ras. Du har bara 5 minuter på dig innan du riskerar att knacka på dörren från polisen.

En annan skillnad är att SA-appen är opt-in. För närvarande. WA-appen är redan obligatorisk för ankomster från högriskområden som Victoria. För extrema riskområden som NSW, det är rakt in på ett karantänhotell.

Skäl till oro

Men varför utvecklar vi sådana hemkarantänappar i första hand, när vi redan har en billig teknik för att göra detta? Om vi ​​vill övervaka att folk är hemma (och det är en stor om ), skulle inte en av fotledsbrickorna som redan används av våra korrigerande tjänster för hemförvar vara mycket enklare, säkrare och mer robust?

Det finns många anledningar till att oroa sig för appar för hemkarantän.

Först, de kommer förmodligen att vara mycket lättare att hacka än fotledstaggar. Hur många av oss har hackat geo-block för att komma åt Netflix i USA, eller titta på annat digitalt innehåll från ett annat land? Att fejka GPS-position på en smartphone är inte mycket svårare.

Andra, mjukvara för ansiktsigenkänning är ofta felaktig, och är ofta partisk mot färgade personer och mot kvinnor. Dokumentären Coded Bias gör ett bra jobb med att ta bort dessa fördomar.

Trots år av ansträngning, även de stora teknikjättarna som Google och Amazon har inte kunnat eliminera dessa fördomar från sin programvara. Jag har lite hopp om att SA-regeringen eller WA-företaget GenVis, utvecklarna av de två australiska apparna för hemkarantän, kommer att ha gjort det bättre.

Verkligen, den australiensiska människorättskommissionen har krävt ett moratorium för användningen av ansiktsigenkänningsprogram i högriskmiljöer som polisarbete tills bättre reglering finns på plats för att skydda mänskliga rättigheter och integritet.

Tredje, det måste finnas en mycket mer detaljerad och offentlig debatt kring frågor som integritet, och skyddsåtgärder som införts baserat på denna diskussion, innan tekniken används.

Med incheckningsappar för covid, vi blev lovade att uppgifterna endast skulle användas för folkhälsoändamål. Men polisstyrkor runt om i Australien har fått tillgång till denna information för andra ändamål vid minst sex tillfällen. Detta undergräver allvarligt allmänhetens förtroende och användning av sådana appar.

Innan den lanserades, Commonwealths COVIDSafe-app hade lagstiftande förbud infört för användning av insamlad data för allt annat än kontaktspårning. Detta kanske gav oss en falsk känsla av säkerhet eftersom de statligt producerade COVID-incheckningsapparna inte hade några sådana juridiska skydd. Endast vissa stater har retroaktivt infört lagstiftning för att tillhandahålla sådana skydd.

Fjärde, vi måste oroa oss för hur mjukvara som denna legitimerar teknik som ansiktsigenkänning som i slutändan urholkar grundläggande rättigheter som rätten till privatliv.

Om appar för hemkarantän fungerar framgångsrikt, kommer de att öppna dörren för att ansiktsigenkänning kan användas i andra miljöer? För att identifiera butikslyftare? För att ge tillgång till välfärd? Eller till vården? Vilken orwellsk värld kommer detta att ta oss till?

Farorna med ansiktsigenkänning

I Kina, vi har redan sett mjukvara för ansiktsigenkänning som används för att övervaka och förfölja den uiguriska minoriteten. I USA, minst tre svarta personer har redan felaktigt hamnat i fängelse på grund av ansiktsigenkänningsfel.

Ansiktsigenkänning är en teknik som är farlig om den inte fungerar (som det ofta är fallet). Och farligt om det gör det. Det ändrar hastigheten, omfattning och kostnad för övervakning.

Med mjukvara för ansiktsigenkänning bakom CCTV-kamerorna som finns i många gathörn, du kan spåras 24/7. Du är inte längre anonym när du går ut i butikerna. Eller när du protesterar mot att svarta liv spelar roll eller klimatnödsituationen.

Högteknologi är inte lösningen

Högteknologisk programvara som ansiktsigenkänning är inte en lösning på problemen som har plågat Australiens svar på pandemin. Det kan inte råda bot på misslyckandet med att köpa tillräckligt med vaccin, misslyckandet med att bygga särskilda karantänanläggningar, eller striderna och poängsättningen mellan stater och med Commonwealth.

Jag trodde aldrig att jag skulle säga det här men, allt som allt, Jag tror att jag föredrar en ankelbricka. Och om bilden av fotledsetiketten verkar för oroande för dig, vi skulle kunna göra vad Hongkong har gjort och göra det till ett armband.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.