Artificiell intelligens (AI)-system blir smartare för varje dag, slå världsmästare i spel som Go, identifiera tumörer i medicinska skanningar bättre än mänskliga radiologer, och öka effektiviteten i elhungriga datacenter. Vissa ekonomer jämför den transformativa potentialen hos AI med andra "teknologier för allmänna ändamål" som ångmaskinen, elektricitet eller transistorn.

Men nuvarande AI-system är långt ifrån perfekta. De tenderar att återspegla fördomarna i data som används för att träna dem och att bryta ner när de möter oväntade situationer. De kan spelas, som vi har sett med kontroverserna kring desinformation på sociala medier, våldsamt innehåll som lagts upp på YouTube, eller det berömda fallet Tay, Microsoft chatbot, som manipulerades till att göra rasistiska och sexistiska uttalanden inom några timmar.

Så vill vi verkligen göra dessa fördomsbenägna, sköra teknologier till grundstenarna för morgondagens ekonomi?

Minimerar risken

Ett sätt att minimera AI-risker är att öka mångfalden av teamen som är involverade i deras utveckling. Som forskning om kollektivt beslutsfattande och kreativitet antyder, grupper som är mer kognitivt olika tenderar att fatta bättre beslut. Tyvärr, detta är långt ifrån situationen i samhället som för närvarande utvecklar AI-system. Och bristen på mångfald mellan könen är en viktig (men inte den enda) dimensionen av detta.

En recension publicerad av AI Now Institute tidigare i år, visade att mindre än 20 % av forskarna som ansöker till prestigefyllda AI-konferenser är kvinnor, och att endast en fjärdedel av studenterna som studerar AI vid Stanford och University of California i Berkeley är kvinnor.

Författarna hävdade att denna brist på könsmångfald resulterar i AI-misslyckanden som unikt påverkar kvinnor, som ett Amazon rekryteringssystem som visade sig diskriminera arbetssökande med kvinnliga namn.

Vår senaste rapport, Könsmångfald i AI-forskning, involverade en "big data"-analys av 1,5 miljoner papper i arXiv, en förtryckswebbplats som ofta används av AI-gemenskapen för att sprida sitt arbete.

Vi analyserade texten i sammandrag för att avgöra vilka som tillämpar AI-tekniker, härledde författarnas kön från deras namn och studerade nivåerna av könsmångfald inom AI och dess utveckling över tid. Vi jämförde också situationen inom olika forskningsområden och länder, och skillnader i språk mellan tidningar med kvinnliga medförfattare och helt manliga tidningar.

Vår analys bekräftar tanken att det finns en könsmångfaldskris inom AI-forskning. Endast 13,8 % av AI-författarna i arXiv är kvinnor och, i relativa termer, Andelen AI-tidningar som är medförfattare av minst en kvinna har inte förbättrats sedan 1990-talet.

Det finns betydande skillnader mellan länder och forskningsområden. Vi fann en starkare representation av kvinnor i AI-forskning i Nederländerna, Norge och Danmark, och en lägre representation i Japan och Singapore. Vi fann också att kvinnor som arbetar inom fysik, utbildning, biologi och sociala aspekter av datorer är mer benägna att publicera arbete om AI jämfört med de som arbetar inom datavetenskap eller matematik.

Förutom att mäta könsmångfald inom AI-forskararbetsstyrkan, vi utforskade också semantiska skillnader mellan forskningsartiklar med och utan kvinnligt deltagande. Vi testade hypotesen att forskarlag med mer könsdiversitet tenderar att öka mängden frågor och ämnen som beaktas i AI-forskning, potentiellt göra deras resultat mer inkluderande.

Att göra detta, vi mätte den "semantiska signaturen" för varje papper med hjälp av en maskininlärningsteknik som kallas ordinbäddningar, och jämförde dessa signaturer mellan tidningar med minst en kvinnlig författare och tidningar utan några kvinnliga författare.

Denna analys, som fokuserar på maskininlärning och sociala aspekter av datorer i Storbritannien, visade signifikanta skillnader mellan grupperna. Särskilt, vi fann att tidningar med minst en kvinnlig medförfattare tenderar att vara mer tillämpade och socialt medvetna, med termer som "rättvisa", "mänsklig rörlighet", "mental", "hälsa", "kön" och "personlighet" spelar en nyckelroll. Skillnaden mellan de två grupperna är förenlig med tanken att kognitiv mångfald har en inverkan på den forskning som produceras, och föreslår att det leder till ökat engagemang i sociala frågor.

Hur man fixar det

Så vad förklarar denna ihållande könsskillnad inom AI-forskning, och vad kan vi göra åt det?

Forskning visar att bristen på könsmångfald inom vetenskapen, teknologi, ingenjörs- och matematikarbetskraften (STEM) orsakas inte av en enda faktor:könsstereotyper och diskriminering, brist på förebilder och mentorer, otillräcklig uppmärksamhet på balansen mellan arbete och privatliv, och "giftiga" arbetsmiljöer inom teknikindustrin går samman för att skapa en perfekt storm mot könsinkludering.

Det finns ingen enkel lösning för att minska könsgapet inom AI-forskning. Systemomfattande förändringar som syftar till att skapa säkra och inkluderande utrymmen som stödjer och främjar forskare från underrepresenterade grupper, en förändring av attityder och kulturer inom forskning och industri, och bättre kommunikation av AIs transformativa potential på många områden kan alla spela en roll.

Politiska ingripanden, t.ex. investeringen på 13,5 miljoner pund från regeringen för att öka mångfalden i AI-roller genom nya konverteringskurser, kommer att bidra till att förbättra situationen, men bredare insatser behövs för att skapa bättre kopplingar mellan konst, humaniora och AI, förändra bilden av vem som kan arbeta inom AI.

Även om det inte finns någon enskild anledning till varför flickor oproportionerligt slutar ta STEM-ämnen när de går vidare genom utbildning, Det finns bevis för att faktorer inklusive genomgripande stereotyper kring kön och en undervisningsmiljö som påverkar flickors självförtroende mer än pojkar spelar en roll i problemet. Vi måste också visa upp de förebilder som använder AI för att göra en positiv skillnad.

Ett konkret ingripande för att ta itu med dessa problem är Longitude Explorer Prize, som uppmuntrar gymnasieelever att använda AI för att lösa sociala utmaningar och arbeta med förebilder inom AI. Vi vill ha unga människor, speciellt tjejer, att realisera AI:s potential för gott och deras roll i att driva förändring.

Genom att bygga färdigheter och förtroende hos unga kvinnor, vi kan ändra förhållandet mellan människor som studerar och arbetar inom AI – och hjälpa till att ta itu med AI:s potentiella fördomar.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.