Biometric Mirror använder en öppen datauppsättning med tusentals ansiktsbilder och publikbaserade utvärderingar. Kredit:Sarah Fisher, University of Melbourne
I en världsnyhet, Forskare från University of Melbourne har designat ett system med artificiell intelligens (AI) för att upptäcka och visa människors personlighetsdrag och fysiska attraktionskraft enbart baserat på ett foto av deras ansikte.
Systemet, kallas biometrisk spegel, undersöker en persons förståelse av AI och deras svar på informationen om deras unika egenskaper.
När någon står framför Biometrisk spegel, systemet upptäcker en rad ansiktsegenskaper på några sekunder. Den jämför sedan användarens data med tusentals ansiktsfoton, som utvärderades med avseende på sin psykometri av en grupp av crowdsourcingsvarare.
Biometrisk spegel visar 14 egenskaper, från kön, ålder och etnicitet till attraktivitet, konstigheter och känslomässig stabilitet. Ju längre en person står där, desto mer personliga blir egenskaperna.
Forskningsprojektet, ledd av Dr. Niels Wouters från Center for Social Natural User Interfaces (SocialNUI) och Science Gallery Melbourne, utforskar farhågorna som denna teknik väcker kring samtycke, datalagring och algoritmisk bias.
"Med framväxten av AI och big data, myndigheter och företag kommer i allt högre grad att använda CCTV-kameror och interaktiv reklam för att upptäcka känslor, ålder, kön och demografi för människor som går förbi, " sa Dr Wouters.
"Vår studie syftar till att väcka utmanande frågor om gränserna för AI. Den visar användarna hur lätt det är att implementera AI som diskriminerar på oetiska eller problematiska sätt som kan få samhälleliga konsekvenser. Genom att uppmuntra debatt om integritet och massövervakning, vi hoppas kunna bidra till en bättre förståelse för etiken bakom AI."
Biometric Mirror belyser de potentiella verkliga konsekvenserna av algoritmiska fördomar och antaganden.
"Medan det kan verka ofarligt att samla in personlig information om dina shoppingpreferenser för att skräddarsy en individuell tjänst, fånga denna information utan samtycke gör det omöjligt att veta om en förutsägelse är baserad på korrekta data, " sa Dr Wouters.
"Användningen av AI är en hal backe som sträcker sig bortom shopping- och reklamområdet. Föreställ dig att du inte har kontroll över en algoritm som felaktigt anser dig vara olämplig för chefsbefattningar, inte berättigade till universitetsexamen, eller delar ditt foto offentligt utan ditt medgivande.
"En av dina egenskaper är vald - säg, din nivå av ansvar – och Biometric Mirror ber dig att föreställa dig att denna information nu delas med din försäkringsgivare eller framtida arbetsgivare, "Dr. Wouters sa. "Detta projekt är en transparent demonstration av de potentiella konsekvenserna för individer."
Dr. Wouters sa att det var viktigt att notera att Biometric Mirror inte är ett verktyg för psykologisk analys.
"Biometric Mirror beräknar bara den uppskattade allmänhetens uppfattning om ansiktsutseende, " han sa.
"Det är begränsat av dess felaktighet, eftersom endast en relativt liten och crowd-sourced dataset informerade om dess design. Det är olämpligt att dra meningsfulla slutsatser om psykologiska tillstånd från Biometric Mirror."