Att bryta stora datamängder av engelska avslöjar stereotyper om kön, ras och klass som är vanliga i engelsktalande samhällen. Tessa Charlesworth och kollegor utvecklade en stegvis procedur, Flexible Intersectional Stereotype Extraction (FISE), som de tillämpade på miljarder ord med engelsk internettext.
Denna procedur gjorde det möjligt för dem att utforska egenskaper associerade med intersektionella identiteter, genom att kvantifiera hur ofta yrkesetiketter eller egenskapsadjektiv användes nära fraser som hänvisade till flera identiteter, som "svarta kvinnor", "rika män", "fattiga kvinnor" eller " Vita män."
I deras analys, publicerad i PNAS Nexus , visar författarna först att metoden är ett giltigt sätt att utvinna stereotyper:yrken som i verkligheten dominerades av vissa identiteter (t.ex. arkitekt, ingenjör, chef domineras av vita män) är också i språket starkt förknippade med samma intersektionella grupp i en takt som är betydligt över slumpen – cirka 70 %.
Därefter tittade författarna på personlighetsdrag. FISE-proceduren fann att 59 % av de studerade egenskaperna var förknippade med "vita män" men bara 5% av egenskaperna var förknippade med "svarta kvinnor".
Enligt författarna indikerar obalanserna i egenskapsfrekvenser en genomgripande androcentrisk (manscentrerad) och etnocentrisk (vitcentrerad) bias på engelska. Valensen (positivitet/negativitet) för de associerade egenskaperna var också obalanserad. Ungefär 78 % av egenskaperna associerade med "White Rich" var positiva medan endast 21% av egenskaperna associerade med "Black Poor" var positiva.
Mönster som dessa har nedströms konsekvenser i AI, datoröversättning och textgenerering, enligt författarna. Förutom att förstå hur intersektionell fördom formar sådana resultat, noterar författarna att FISE kan användas för att undersöka en rad intersektionella identiteter över språk och till och med över historien.
Mer information: Tessa E S Charlesworth et al, Extrahera intersektionella stereotyper från inbäddningar:Utveckling och validering av Flexible Intersectional Stereotype Extraction procedure, PNAS Nexus (2024). DOI:10.1093/pnasnexus/pgae089
Tillhandahålls av PNAS Nexus
