Bias i artificiell intelligens (AI) och maskininlärningsprogram är väl etablerad. Forskare från North Carolina State University och Pennsylvania State University föreslår nu att mjukvaruutvecklare ska införliva konceptet "feministiskt designtänkande" i sin utvecklingsprocess som ett sätt att förbättra rättvisa – särskilt i utvecklingen av programvara som används i anställningsprocessen.

"Det verkar finnas otaliga historier om hur partiskhet i AI visar sig, och det finns många tankar där ute om vad som bidrar till denna partiskhet, " säger Fay Payton, en professor i informationssystem/teknik och universitetsfakultetsstipendiat vid NC State. "Vårt mål här var att lägga fram riktlinjer som kan användas för att utveckla fungerande lösningar för algoritmbias mot kvinnor, Afroamerikanska och latinska yrken inom IT-arbetskraften.

"Alltför många befintliga anställningsalgoritmer innehåller de facto identitetsmarkörer som utesluter kvalificerade kandidater på grund av deras kön, lopp, etnicitet, ålder och så vidare, " säger Payton, som är medförfattare till en artikel om arbetet. "Vi letar helt enkelt efter rättvisa - att jobbkandidater ska kunna delta i anställningsprocessen på lika villkor."

Payton och hennes medarbetare hävdar att ett tillvägagångssätt som kallas feministiskt designtänkande skulle kunna fungera som ett värdefullt ramverk för att utveckla mjukvara som minskar algoritmisk fördom på ett meningsfullt sätt. I detta sammanhang, tillämpningen av feministiskt designtänkande skulle innebära att man införlivar idén om rättvisa i utformningen av själva algoritmen.

"Att förena effekterna av algoritmisk bias är den historiska underrepresentationen av kvinnor, Black och Latinx mjukvaruingenjörer för att ge nya insikter om rättvisa designmetoder baserat på deras levda erfarenheter, " säger Lynette Yarger, medförfattare till artikeln och docent i informationsvetenskap och teknologi vid Penn State.

"Väsentligen, detta tillvägagångssätt skulle innebära att man utvecklar algoritmer som värdesätter inkludering och jämlikhet över kön, ras och etnicitet, ", säger Payton. "Den praktiska tillämpningen av detta är utvecklingen och implementeringen av en process för att skapa algoritmer där designers överväger en publik som inkluderar kvinnor, som inkluderar svarta människor, som inkluderar Latinx-folk. Väsentligen, Utvecklare av alla bakgrunder skulle uppmanas att aktivt ta hänsyn till – och värdesätta – människor som skiljer sig från dem själva.

"För att vara tydlig, det här handlar inte bara om att göra något för att det är moraliskt korrekt. Men vi vet att kvinnor, Afroamerikaner och Latinx-folk är underrepresenterade inom IT-områden. Och det finns gott om bevis för att en mångfald, inkluderande arbetskraft förbättrar ett företags resultat, " säger Payton. "Om du kan göra rätt sak och förbättra din vinstmarginal, varför skulle du inte det?"