Med en kort blick på ett enda ansikte, framväxande programvara för ansiktsigenkänning kan nu kategorisera könet hos många män och kvinnor med anmärkningsvärd noggrannhet.

Men om det ansiktet tillhör en transperson, sådana system får fel mer än en tredjedel av tiden, enligt ny University of Colorado Boulder -forskning.

"Vi fann att ansiktsanalystjänster fungerade genomgående sämre på transpersoner, och var allmänt oförmögna att klassificera icke-binära kön, "sade huvudförfattaren Morgan Klaus Scheuerman, en doktorsexamen student på informationsvetenskapliga avdelningen. "Även om det finns många olika typer av människor där ute, dessa system har en extremt begränsad syn på hur kön ser ut. "

Studien kommer i en tid då ansiktsanalystekniker - som använder dolda kameror för att bedöma och karakterisera vissa funktioner hos en individ - blir allt vanligare, inbäddad i allt från smartphone -datingappar och digitala kiosker vid köpcentra till flygplatsens säkerhet och övervakningssystem för brottsbekämpning.

Tidigare forskning tyder på att de tenderar att vara mest exakta vid bedömning av vita mäns kön, men felidentifiera kvinnor med färg så mycket som en tredjedel av tiden.

"Vi visste att det fanns inneboende fördomar i dessa system kring ras och etnicitet och vi misstänkte att det också skulle finnas problem kring kön, "sa seniorförfattaren Jed Brubaker, en biträdande professor i informationsvetenskap. "Vi bestämde oss för att testa detta i den verkliga världen."

Forskare samlade 2, 450 bilder av ansikten från Instagram, var och en hade märkts av sin ägare med en hashtag som anger deras könsidentitet. Bilderna delades sedan in i sju grupper om 350 bilder (#kvinnor, #man, #transwoman, #transman, #agender, #agenderqueer, #nonbinary) och analyseras av fyra av de största leverantörerna av ansiktsanalystjänster (IBM, Amazon, Microsoft och Clarifai).

I synnerhet, Google ingår inte eftersom det inte erbjuder könstjänster.

I genomsnitt, systemen var mest korrekta med foton av cisgender -kvinnor (de som föddes som kvinnor och identifierade sig som kvinnor), att få sitt kön rätt 98,3% av tiden. De kategoriserade cisgender män exakt 97,6% av tiden.

Men transmän identifierades felaktigt som kvinnor upp till 38% av tiden.

Och de som identifierade sig som agender, genderqueer eller nonbinary - vilket indikerar att de inte identifierar sig som varken man eller kvinna - blev felkarakteriserade 100 procent av tiden.

"Dessa system kan inget annat språk än man eller kvinna, så för många könsidentiteter är det inte möjligt för dem att vara korrekta, säger Brubaker.

Studien föreslår också att sådana tjänster identifierar kön baserat på föråldrade stereotyper.

När Scheuerman, som är man och har långt hår, lämnade in sin egen bild, hälften kategoriserade honom som kvinna.

Forskarna kunde inte få tillgång till utbildningsdata, eller bildinmatningar som används för att "lära" systemet hur man och kvinna ser ut, men tidigare forskning tyder på att de bedömer saker som ögonposition, läppfylldhet, hårlängd och till och med kläder.

"Dessa system riskerar att förstärka stereotyper om hur du ska se ut om du vill bli erkänd som en man eller kvinna. Och det påverkar alla, sa Scheuerman.

Marknaden för ansiktsigenkänningstjänster beräknas fördubblas till 2024, som teknikutvecklare arbetar för att förbättra interaktionen mellan människa och robot och rikta annonser mer noggrant mot kunder. Redan, Brubaker noterar, människor arbetar med teknik för ansiktsigenkänning varje dag för att få tillgång till sina smartphones eller logga in på sina datorer.

Om det har en tendens att missköta vissa, redan sårbar, befolkningar som kan få allvarliga konsekvenser.

Till exempel, en matchande app kan sätta någon på ett datum med fel kön, som leder till en potentiellt farlig situation. Eller en felaktig överensstämmelse mellan det kön som ett ansiktsigenkänningsprogram ser och den dokumentation som en person bär kan leda till problem att komma igenom flygplatsens säkerhet, säger Scheuerman.

Han är mest bekymrad över att sådana system bekräftar föreställningar om att transpersoner inte passar in.

"Folk tänker på datorsyn som futuristiskt, men det finns massor av människor som kan lämnas utanför denna så kallade framtid, " han sa.

Författarna säger att de skulle vilja se tekniska företag helt och hållet gå ifrån könsklassificering och hålla sig till mer specifika etiketter som "långt hår" eller "smink" när de bedömer bilder.

"När du går ner på gatan kan du titta på någon och anta att du vet vad deras kön är, men det är en riktigt pittoresk idé från 90 -talet och det är inte hur världen är längre, "sa Brubaker." Eftersom vår vision och vår kulturella förståelse för vad kön är har utvecklats. Det har inte algoritmerna som driver vår tekniska framtid. Det är djupt problematiskt. "

Forskningen kommer att presenteras i november vid ACM Conference on Computer Supported Cooperative Work i Austin, Texas.