Anta att du skulle vilja veta dödligheten för kvinnor under förlossningen, efter land, runt världen. Var skulle du leta? Ett alternativ är WomanStats Project, webbplatsen för en akademisk forskningssatsning som undersöker kopplingarna mellan nationalstaternas säkerhet och verksamhet, och säkerheten för kvinnorna som bor i dem.

Projektet, grundades 2001, möter ett behov genom att lappa ihop data från hela världen. Många länder är likgiltiga för att samla in statistik om kvinnors liv. Men även där länder anstränger sig hårdare för att samla in data, det finns tydliga utmaningar att komma fram till användbara siffror – oavsett om det gäller kvinnors fysiska säkerhet, äganderätter, och statligt deltagande, bland många andra frågor.

Till exempel:I vissa länder, kränkningar av kvinnors rättigheter kan rapporteras mer regelbundet än på andra platser. Det betyder att ett mer lyhört rättssystem kan skapa sken av större problem, när det ger relativt sett mer stöd till kvinnor. WomanStats Project noterar många sådana komplikationer.

Därför erbjuder WomanStats Project några svar – till exempel, Australien, Kanada, och stora delar av Västeuropa har låg dödlighet vid förlossningar – samtidigt som de visar vilka utmaningarna är att ta siffror till nominellt värde. Detta, enligt MIT-professor Catherine D'Ignazio, gör webbplatsen ovanlig, och värdefulla.

"Uppgifterna talar aldrig för sig själva, säger D'Ignazio, hänvisar till det allmänna problemet med att hitta tillförlitliga siffror om kvinnors liv. "Det finns alltid människor och institutioner som talar för data, och olika människor har sina egna agendor. Uppgifterna är aldrig oskyldiga."

Nu D'Ignazio, en biträdande professor vid MIT:s institution för urbana studier och planering, har tittat djupare på denna fråga i en ny bok, skrev tillsammans med Lauren Klein, en docent i engelska och kvantitativ teori och metoder vid Emory University. I boken, "Datafeminism, " publicerad denna månad av MIT Press, författarna använder den intersektionella feminismens lins för att granska hur datavetenskap återspeglar de sociala strukturer den kommer ur.

"Intersektionell feminism undersöker ojämlik makt, "skriv D'Ignazio och Klein, i bokens inledning. "Och i vår samtida värld, data är också makt. Eftersom kraften i data utövas orättvist, det måste utmanas och förändras."

4-procentsproblemet

För att se ett tydligt fall av maktrelationer som genererar partisk data, D'Ignazio och Klein noterar, överväg forskning ledd av MIT:s egen Joy Buolamwini, som som doktorand i en klass som studerar program för ansiktsigenkänning, observerade att programvaran i fråga inte kunde "se" hennes ansikte. Buolamwini fann att för ansiktsigenkänningssystemet i fråga, programvaran var baserad på en uppsättning ansikten som var 78 procent män och 84 procent vita; endast 4 procent var kvinnor och mörkhyade, som hon själv.

Efterföljande mediabevakning av Buolamwinis arbete, D'Ignazio och Klein skriver, innehöll "en antydan till chock". Men resultaten var förmodligen mindre överraskande för dem som inte är vita män, de tror.

"Om det förflutna är rasistiskt, förtryckande, sexistisk, och partisk, och det är din träningsdata, det är vad du ställer in dig på, " säger D'Ignazio.

Eller ta ett annat exempel, från teknikjätten Amazon, som testade ett automatiserat system som använde AI för att sortera igenom lovande CV:n som skickades in av arbetssökande. Ett problem:Eftersom en stor andel av företagets anställda var män, Algoritmen gynnade mäns namn, annat lika.

"De trodde att det här skulle hjälpa processen, men vad det gör är att träna AI-systemet till att vara partiskt mot kvinnor, eftersom de själva inte har anställt så många kvinnor, " konstaterar D'Ignazio.

Till Amazons kredit, den kände igen problemet. Dessutom, D'Ignazio noterar, den här typen av problem är ett problem som kan lösas. "Vissa av teknikerna kan reformeras med en mer deltagande process, eller bättre träningsdata. … Om vi ​​är överens är det ett bra mål, en väg framåt är att anpassa ditt träningsset och inkludera fler färgade personer, fler kvinnor."

"Vem är med i laget? Vem hade idén? Vem gynnas?"

Fortfarande, frågan om vem som deltar i datavetenskap är, som författarna skriver, "elefanten i serverrummet." Från och med 2011, endast 26 procent av alla studenter som fick datavetenskapsexamen i USA var kvinnor. Det är inte bara en låg siffra, men faktiskt en nedgång från tidigare nivåer:1985, 37 procent av utexaminerade från datavetenskap var kvinnor, det högsta betyget någonsin.

Som ett resultat av bristen på mångfald inom området, D'Ignazio och Klein tror, många dataprojekt är radikalt begränsade i sin förmåga att se alla aspekter av de komplexa sociala situationer de utger sig för att mäta.

"Vi vill försöka stämma in människor på den här typen av maktrelationer och varför de betyder så mycket, " D'Ignazio säger. "Vem är med i laget? Vem hade idén? Vem drar nytta av projektet? Vem är potentiellt skadad av projektet?"

I alla, D'Ignazio och Klein skisserar sju principer för datafeminism, från att undersöka och utmana makt, att tänka om binära system och hierarkier, och anamma pluralism. (Denna statistik om köns- och datavetenskapsexaminerade är begränsad, de noterar, genom att endast använda kategorierna "man" och "kvinna", alltså utesluter personer som identifierar sig i olika termer.)

Personer som är intresserade av datafeminism, uppger författarna, bör också "värdera flera former av kunskap, " inklusive förstahandskännedom som kan få oss att ifrågasätta till synes officiella data. Dessutom, de bör alltid beakta det sammanhang i vilket data genereras, och "göra arbetet synligt" när det kommer till datavetenskap. Denna sista princip, forskarna konstaterar, talar om problemet att även när kvinnor och andra utestängda människor bidrar till dataprojekt, de får ofta mindre kredit för sitt arbete.

För all bokens kritik av befintliga system, program, och övningar, D'Ignazio och Klein är också noga med att ta med exempel på positiva, framgångsrika ansträngningar, som WomanStats-projektet, som har vuxit och frodats under två decennier.

"För personer som är datamänniskor men är nya inom feminism, vi vill ge dem en mycket tillgänglig introduktion, och ge dem koncept och verktyg de kan använda i sin praktik, " D'Ignazio säger. "Vi föreställer oss inte att människor redan har feminism i sin verktygslåda. Å andra sidan, vi försöker prata med folk som är väldigt inställda på feminism eller principer för social rättvisa, och lyfta fram hur datavetenskap både är problematisk, men kan samlas i rättvisans tjänst."

Den här historien återpubliceras med tillstånd av MIT News (web.mit.edu/newsoffice/), en populär webbplats som täcker nyheter om MIT-forskning, innovation och undervisning.