Amazons kontroversiella ansiktsigenkänningsprogram, Erkännande, falskt identifierade 28 medlemmar av kongressen under ett test av programmet av American Civil Liberties Union, Det sa medborgarrättsgruppen på torsdag.
I sitt test, ACLU skannade foton av alla kongressmedlemmar och fick systemet att jämföra dem med en offentlig databas med 25, 000 mugshots.
Gruppen använde standardinställningen "förtroendetröskel" på 80 procent för erkännande, vilket betyder att testet räknade en ansiktsmatch med 80 procents säkerhet eller mer.
Vid den inställningen, systemet felidentifierade 28 kongressmedlemmar, av vilka ett oproportionerligt antal var färgade, tagga dem istället som helt andra personer som har gripits för brott.
Ansikten på kongressmedlemmar som användes i testet inkluderar republikaner och demokrater, män och kvinnor och lagstiftare i alla åldrar.
Amazon svarade att när man använde ansiktsigenkänning för brottsbekämpning, den rekommenderar att sätta konfidensgränsen på 95 procent eller högre.
En talesperson från Amazon Web Services sa i ett uttalande att testresultaten kunde ha förbättrats genom att öka konfidensgränsen. Medan 80 procent är en acceptabel tröskel för foton av vardagliga föremål och föremål, det är inte lämpligt att identifiera individer med en "rimlig nivå av säkerhet".
I sin rapport om sina resultat, ACLU sa att standardinställningen för programmet var 80 procent och att Amazon rekommenderar den nivån för ansiktsbaserad användarverifiering.
Verktyget används för ansiktsigenkänning på arenor utanför brottsbekämpning. Till exempel, under prins Harrys och Meghan Markles kungliga bröllop i maj, Det brittiska TV-bolaget Sky News använde Rekognition för att hjälpa det att identifiera kändisar när de gick in i Windsor Castle.
Programvaran har också använts av Pinterest för att matcha bilder, av butiker för att spåra människor, att identifiera potentiellt osäkert eller olämpligt innehåll online och hitta text i bilder.
Sekretess och polisarbete
Amazon har nyligen kommit under beskyllning för att ha sålt tjänsten för ansiktsigenkänning till brottsbekämpande myndigheter på grund av oro för att den kan användas för att spåra människor som går i deras dagliga liv, eller vid politiska protester eller i andra situationer där de flesta nu antar att de är anonyma.
På grund av dessa farhågor, medborgerliga rättigheter, Integritetsförespråkare och även vissa Amazon-anställda och aktieägare har bett vd Jeff Bezos att sluta tillåta poliser och federala myndigheter att använda ansiktsigenkänningstekniken.
Resultaten av ACLU:s test "visar varför kongressen bör ansluta sig till ACLU i att kräva ett moratorium för brottsbekämpande användning av ansiktsövervakning, " skrev Jacob Snow, en teknik- och civilrättsadvokat för ACLU i norra Kalifornien.
Två år sedan, Amazon byggde verktyget för ansikts- och produktigenkänning som ett sätt för kunder att snabbt söka i en databas med bilder och leta efter matchningar. För igenkänning krävs att användaren har två uppsättningar bilder. Den första är i allmänhet en stor databas med kända individer. Användaren skickar sedan in bilder på individer som programvaran sedan jämför med dem i den stora databasen för att hitta vad den tror är matchningar.
Snow sa att produkten har marknadsförts "aggressivt" till polisen. Minst två byråer, en i Orlando, Florida, och en i Washington County, Oregon, testar Rekognition för närvarande.
Analytikern som är ansvarig för Washington Countys program säger att det aldrig skulle förlita sig på mjukvara för ansiktsigenkänning för att så mycket som gå upp och prata med en potentiell misstänkt, mycket mindre arrestera dem.
Avdelningen sätter inte en tröskel för förtroende alls eftersom alla beslut fattas av människor, sa Chris Adzima, senior informationssystemanalytiker vid Washington County Sheriff's Office i Hillsboro, Oregon.
"När vi har en bild från en aktiv utredning, utredaren kommer att lägga in det i vårt system och systemet kommer att spotta ut de fem sannolika resultaten. Sedan kommer utredaren att titta igenom dessa fem för att avgöra om någon av dessa är möjliga ledtrådar, " han sa.
Även då, utredaren måste göra ordentlig due diligence, kör namnet för att se om personen hade ett register eller känd kontakt med potentiella offer.
Medan Adzima sa att Washington County har goda framgångar med att använda ansiktsigenkänning för att hjälpa till att identifiera personer som till slut var bundna till brott, "nästan ingen av dem var under en 95-procentig konfidensgräns, " han sa.
Ansiktsigenkänningsteknik användes framgångsrikt för att identifiera mannen som greps för skottlossningen på Capital Gazettes nyhetsrum i Baltimore, Maryland.
Men ACLU och andra integritetsförespråkare säger att tekniken är ett intrång i integriteten. Och de säger att det kan användas för att rikta in sig på och spåra invandrare eller demonstranter.
I maj, 34 medborgarrättsgrupper skickade ett brev till Amazons vd Jeff Bezos, att säga att folk borde vara "fria att gå på gatan utan att bli övervakade av regeringen."
Samma månad, medlemmar av Congressional Black Caucus, skickade också ett brev till Bezos, som sa att de var oroliga över de "djupgående negativa oavsiktliga konsekvenserna" som denna teknik kan ha för afroamerikaner, invandrare och demonstranter utan dokumentation.
"De rasbaserade "blinda fläckarna" inom artificiell intelligens, särskilt de som manifesteras i ansiktsigenkänningsteknik, har dokumenterats väl, " stod det i brevet.
Dessa "blinda fläckar" i ansiktsigenkänning AI inkluderar en incident 2015 där en Google -fotoprogram identifierade bilder av afroamerikanska användare som "gorillor" och en studie som släpptes tidigare i år från Massachusetts Institute of Technology som hittade program för ansiktsigenkänning, används för att identifiera en persons kön, hade en felfrekvens på 0,8 procent för ljushyade män och 34,7 procent för mörkhyade kvinnor. Studien använde tre olika typer av kommersiell mjukvara för ansiktsigenkänning.
Sex medlemmar av Congressional Black Caucus blev felidentifierade i ACLU:s test av erkännande.
Reps. Jimmy Gomez (D-Kalifornien) och John Lewis (D-Ga.), som båda falskt identifierades under testet, skickade ett brev till Bezos på torsdagen och bad att träffas omedelbart för att åtgärda "defekterna" i tekniken "för att förhindra felaktiga resultat."
©2018 USA Today
Distribueras av Tribune Content Agency, LLC.
