Kredit:Pixabay/CC0 Public Domain
Lauren Rhue forskar om den snabba världen av artificiell intelligens och maskininlärningsteknik. Men hon vill att alla i den ska sakta ner.
Rhue, en biträdande professor i informationssystem vid University of Maryland Robert H. Smith School of Business, granskade nyligen känsloigenkänningsteknik inom tre ansiktsigenkänningstjänster:Amazon Rekognition, Face++ och Microsoft. Hennes forskning avslöjade vad Rhue kallade "verkligen skarpa" rasskillnader.
Amazon Rekognition erbjuds för användning till andra företag. Face++ används vid identitetsverifiering. Microsoft planerar att sluta använda sin ansiktsigenkänningsteknik i år, inklusive verktygen för känsloigenkänning.
Rhue samlade in bilder på svartvita NBA-spelare från säsongen 2016, och kontrollerade i vilken grad de log. Hon körde sedan bilderna genom ansiktsigenkänningsprogrammet.
I allmänhet tilldelade modellerna mer negativa känslor till svarta spelare, fann Rhue. Dessutom, om spelarna hade tvetydiga ansiktsuttryck, var det mer sannolikt att de svarta spelarna antogs ha ett negativt ansiktsuttryck, medan vita spelare var mer benägna att "gynnas av tvivel."
"Jag tycker att vi alla borde ta ett steg tillbaka och tänka, behöver vi analysera ansikten på det här sättet?" sa Rhue.
Rhue, 39, är inte den första som utforskar rasskillnader i AI-system. Till exempel har MIT-studenten Joy Buolamwini gett TED Talks om sin erfarenhet av ett ansiktsanalysprogram som inte kunde upptäcka hennes ansikte eftersom algoritmen inte hade kodats för att identifiera ett tillräckligt brett utbud av hudtoner och ansiktsstrukturer.
"Med den nuvarande entusiasmen för AI verkar det finnas ett behov av att skapa en modell för allt du kan skapa en modell för," sa Rhue. "Men jag skulle verkligen vilja se lite mer av en paus och reflektion kring "Behöver vi det här? Vad ger det till bordet?"
Användningen av ansiktsigenkänningsteknik sprider sig. Port of Baltimore använder ansiktsigenkänningsteknik för att verifiera avstigningspassagerares identitet. HireVue, baserat i Utah, genomför videointervjuer för potentiella anställda och poängsätter kandidaternas ansikten och känslor som en del av sin kandidatanalys. AI har implementerats för att skanna känslor och kroppsspråk för att hitta potentiella hot i folkmassor.
Vissa stater begränsar användningen av AI. Kalifornien, till exempel, överväger att begränsa användningen av AI för att screena jobbkandidater för att undvika "diskriminerande inverkan". I Illinois måste arbetsgivare avslöja när de använder AI-verktyg under videointervjuer. Maryland har en liknande lag.
Och förra sommaren skapade Baltimores kommunfullmäktige ett moratorium för användningen av ansiktsigenkänningsteknik, vilket undantog polisavdelningen, fram till december.
Och när AI sipprar in i alla delar av samhället vill Rhue bara att människor – och företag – ska pausa och tänka på de långsiktiga effekterna.
"Dessa typer av system blir allt mer inbäddade i vår, i vår teknik. Vi är inte alltid medvetna om dem. Vi är inte alltid medvetna om hur de används," sa Rhue. "Och jag tror att det är viktigt att förstå potentialen för partiskhet. Och då är kompensationen för min forskning att titta på mänskligt ingripande för att se om det gör det bättre, om människor kan kompensera för denna partiskhet."
Rhue noterade att det i varje situation måste finnas en kombination av AI-verktyg och mänskligt ingripande som används för att mildra partiskhet. Hon vill komma före de "negativa, oavsiktliga konsekvenserna."
Och hon tror att resten av hennes område börjar prioritera den typen av arbete också. Hon sa att George Floyds död i händerna på polisen och efterföljande uppmaningar om rasrättvisa 2020 ledde till ett intresse för att förstå kampen för marginaliserade samhällen och hur teknik kan främja inkludering.
Jui Ramaprasad, docent i informationssystem vid Marylands handelshögskola, arbetar med Rhue och har känt henne sedan hon var doktorand vid New York University. Hon sa att det arbete som Rhue gör med partiskhet i maskininlärning är något av "det mest effektfulla arbetet" inom deras område.
"Jag tror att hon gör arbete som hon bryr sig om eftersom det påverkar henne, det påverkar människor i samhället," sa Ramaprasad. "Jag tror att det är väldigt svårt att vara den person som gör jobbet när du också är en person som möter den där fördomen eller diskrimineringen i den miljö vi lever och arbetar i."
Trots de skillnader hon har upptäckt tror Rhue att tekniken kan användas för gott. Rhue har till exempel forskat om crowdfunding på digitala plattformar med fokus på Kickstarter, som kurerar kampanjer utifrån personalens intresse. I ett försök att lyfta fram projekt som lagts fram av svarta skapare, fann hon att användning av prediktiva modeller snarare än att förlita sig på subjektiv mänsklig analys ökade rekommendationsfrekvensen för svarta projekt utan att sänka framgångsgraden.
"Jag tror att det finns så mycket potential för teknik att verkligen ha en positiv inverkan på inkludering, och särskilt finansiell inkludering," sa Rhue.
Utanför sin forskning lär Rhue ut datavisualisering för studenter på grund- och magisterexamen. Hon har tidigare undervisat vid Wake Forest University.
Rhue sa att hon kan se vilken inverkan hon gör i klassrummet. Hon har låtit elever berätta för henne, inklusive några på forskarskolan, att hon är den enda svarta professorn de någonsin har haft. Och hon har fått andra att berätta för henne att de vill ta sin egen doktorsexamen. eftersom hon gjorde det möjligt.
Will Hawks är biträdande professor i management vid Nova Southeastern University Florida. Innan dess var han elev till Rhue's på Wake Forest.
Även om Rhue inte var hans första svarta professor – Hawks gick tidigare på Florida A&M University, en historiskt svart institution – gjorde det fortfarande intryck att se henne på campus.
"Att se någon som ser ut som du åstadkommer saker som du inte tror kan åstadkommas - det är det omöjliga som blir verkligt," sa Hawks. "Att vara en svart, manlig professor i samma bransch nu... vår närvaro betyder så mycket mer för dem. Och jag vet det eftersom jag har varit i deras skor."
Hawks kallade Rhue en "game changer" för honom. Han har hållit kontakt med henne sedan han tog examen; han nådde ut när han sökte akademiska jobb och till och med nyligen bjöd in henne att gå med honom i forskning om hatbrott som kallas "Zoombombningar" och hur dessa incidenter påverkar organisationer och människor. Hawks tror att Rhue förändrade hans livs gång.
"Du skulle inte prata med Dr. Will Hawks just nu om jag inte hade korsat vägen med Dr. Rhue," sa Hawks. + Utforska vidare
2022 Baltimore Sun.
Distribuerat av Tribune Content Agency, LLC.
