Ansiktsdetekteringsteknik som Amazon marknadsför till brottsbekämpande myndigheter felidentifierar ofta kvinnor, särskilt de med mörkare hud, enligt forskare från MIT och University of Toronto.

Förespråkare för integritet och medborgerliga rättigheter har uppmanat Amazon att sluta marknadsföra sin erkännandetjänst på grund av oro för diskriminering av minoriteter. Vissa Amazon-investerare har också bett företaget att sluta av rädsla för att det gör Amazon sårbart för stämningar.

Forskarna sa att i sina tester, Amazons teknologi märkte mörkare hy kvinnor som män 31 procent av tiden. Ljushyade kvinnor blev felidentifierade 7 procent av tiden. Mörkare män hade en felfrekvens på 1 procent, medan ljusare män inte hade någon.

Artificiell intelligens kan efterlikna deras mänskliga skapares fördomar när de tar sig in i vardagen. Den nya studien, släpptes sent på torsdag, varnar för potentialen för övergrepp och hot mot integritet och medborgerliga friheter från teknik för ansiktsdetektion.

Matt Wood, chef för artificiell intelligens med Amazons molnenhet, sade att studien använder en "ansiktsanalys" och inte "ansiktsigenkänning"-teknik. Wood sa att ansiktsanalys "kan upptäcka ansikten i videor eller bilder och tilldela generiska attribut som att bära glasögon; igenkänning är en annan teknik genom vilken ett individuellt ansikte matchas med ansikten i videor och bilder."

I ett fredagsinlägg på Mediums hemsida, MIT Media Lab-forskaren Joy Buolamwini svarade att företag borde kontrollera alla system som analyserar mänskliga ansikten för partiskhet.

"Om du säljer ett system som har visat sig ha partiskhet på mänskliga ansikten, det är tveksamt att dina andra ansiktsbaserade produkter också är helt fördomsfria, " hon skrev.

Amazons reaktion visar att man inte tar de "riktigt allvarliga farhågor som avslöjas av denna studie på allvar, sa Jacob Snow, en advokat vid American Civil Liberties Union.

Buolamwini och Inioluwa Deborah Raji från University of Toronto sa att de studerade Amazons teknologi eftersom företaget har marknadsfört den till brottsbekämpande myndigheter. Rajis LinkedIn-konto säger att hon för närvarande är adept för artificiell intelligens på Google, som konkurrerar med Amazon när det gäller att erbjuda molntjänster.

Buolamwini och Raji säger att Microsoft och IBM har förbättrat sin teknik för ansiktsigenkänning sedan forskare upptäckte liknande problem i en studie från maj 2017. Deras andra studie, som inkluderade Amazon, gjordes i augusti 2018. Deras papper kommer att presenteras på måndag vid en konferens om artificiell intelligens i Honolulu.

Wood sa att Amazon har uppdaterat sin teknik sedan studien och gjort sin egen analys med "noll falska positiva matchningar."

Amazons webbplats krediterar Rekognition för att ha hjälpt Washington County Sheriff Office i Oregon att påskynda hur lång tid det tog att identifiera misstänkta från hundratusentals fotoregister.

© 2019 The Associated Press. Alla rättigheter förbehållna.