Om en bild målar mer än tusen ord, ansiktsigenkänning målar två:Det är partiskt.

Du kanske minns för några år sedan att Google Foto automatiskt taggade bilder av svarta människor som "gorillor, " eller Flickr (som ägdes av Yahoo vid den tiden) gör samma sak och taggar människor som "apor" eller "djur."

Tidigare i år, de New York Times rapporterade om en studie av Joy Buolamwini, en forskare vid MIT Media Lab, om artificiell intelligens, algoritmer och partiskhet:Hon fann att ansiktsigenkänning är mest exakt för vita män, och minst exakt för mörkhyade personer, särskilt kvinnor.

Nu när ansiktsigenkänning övervägs att användas eller används av polisen, flygplatser, immigrationstjänstemän och andra – Microsoft säger att de har förbättrat sin teknik för ansiktsigenkänning till den punkt där den har minskat felfrekvensen för mörkhyade män och kvinnor med upp till 20 gånger. Enbart för kvinnor, företaget säger att det har minskat felfrekvensen med nio gånger.

Microsoft gjorde förbättringar genom att samla in mer data och utöka och revidera de datauppsättningar som användes för att träna sin AI.

Från ett färskt företagsblogginlägg:"De högre felfrekvenserna för kvinnor med mörkare hud belyser en branschomfattande utmaning:Artificiell intelligens-teknik är bara lika bra som den data som används för att träna dem. Om ett ansiktsigenkänningssystem ska fungera bra för alla människor, träningsdataset måste representera en mångfald av hudtoner såväl som faktorer som frisyr, smycken och glasögon."

Med andra ord, företaget som förde oss Tay, den sexgalna och naziälskande chatboten, vill att vi ska veta att det försöker, det är verkligen ett försök. (Du kanske också kommer ihåg att Microsoft tog sitt AI-experiment Tay offline 2016 efter att hon snabbt började spy ut galna och rasistiska saker på Twitter, återspeglar det hon lärde sig online. Företaget anklagade en "samordnad attack från en undergrupp av människor" för Tays korruption.)

I relaterade nyheter, IBM meddelade att de kommer att släppa världens största ansiktsdataset till teknologer och forskare, för att hjälpa till att studera partiskhet. Det släpper faktiskt två datauppsättningar i höst:en som har mer än 1 miljon bilder, och en annan som har 36, 000 ansiktsbilder jämnt fördelade efter etnicitet, kön och ålder.

Big Blue sa också att det förbättrade sin Watson Visual Recognition-tjänst för ansiktsanalys, minska sin felfrekvens med nästan tio gånger, tidigare i år.

"AI har betydande makt att förbättra vårt sätt att leva och arbeta, men bara om AI-system utvecklas och tränas ansvarsfullt, och producera resultat vi litar på, " sa IBM i ett blogginlägg. "Se till att systemet tränas på balanserad data, och bli av med fördomar, är avgörande för att uppnå ett sådant förtroende."

©2018 The Mercury News (San Jose, Kalifornien)
Distribueras av Tribune Content Agency, LLC.