Om den senaste dataskandalen från Cambridge Analytica nyligen har lärt oss någonting, det är att de etiska kulturerna hos våra största teknikföretag behöver hårdare granskning.

Men moraliska frågor om vilken data som ska samlas in och hur den ska användas är bara början. De väcker bredare frågor om vem som ska fatta dessa beslut i första hand.

Vi har för närvarande ett system där makten över den vettiga och etiska användningen av data är överväldigande koncentrerad bland vita män. Forskning visar att de omedvetna fördomarna som kommer från en persons uppväxt och erfarenheter kan bakas in i teknik, med negativa konsekvenser för minoritetsgrupper.

Dessa fördomar är svåra att slänga, vilket gör mångfald på arbetsplatsen till ett kraftfullt och nödvändigt verktyg för att fånga misstänkt partiskhet innan det har en chans att orsaka skada. I takt med att effekten av datadrivna algoritmer och beslut blir djupare, vi måste fråga:hur kommer detta att förändras i framtiden?

Tyvärr, indikatorerna tyder på att svaret är:inte mycket.

Vilka konsekvenser pratar vi om?

Algoritmisk snedvridning är nu ett mycket studerat problem som hänvisar till hur mänskliga fördomar kryper in i beslut som fattas av datorer.

Problemet har lett till könsspråkiga översättningar, partiska rekommendationer om straffrättslig dom, och ras -skeva ansiktsigenkänningssystem.

Till exempel, när ett automatiskt översättningsverktyg som Google Translate krävs för att översätta ett könsneutralt språk (till exempel turkiska) till ett könsspecifikt språk (t.ex. engelska) gör det en gissning om vilket kön som ska tilldelas den översatta texten.

Människor märkte att Google Translate visade en tendens att tilldela kvinnliga könsnamn till vissa jobb och maskulina pronomen till andra - "hon är barnvakt" eller "han är läkare" - på ett sätt som rörde om sexism. Google Translate baserar sitt beslut om vilket kön som ska tilldelas ett visst jobb på utbildningsdata som det lär sig av. I detta fall, det tar upp könsförskjutningen som redan finns i världen och ger den tillbaka till oss.

Om vi ​​vill se till att algoritmer inte fortsätter och förstärker befintliga fördomar, vi måste vara försiktiga med data vi använder för att träna algoritmer. Men om vi håller uppfattningen att kvinnor är mer benägna att vara barnvakter och män är mer benägna att vara läkare, då kanske vi inte ens märker - och korrigerar - partisk data i de verktyg vi bygger.

Så det spelar roll vem som skriver koden eftersom koden definierar algoritmen, som gör bedömningen på grundval av uppgifterna.

Vem har makten?

För bara tio år sedan satte de första smartphonesna sin prägel. Idag är några av de mäktigaste människorna på planeten de som kontrollerar data som samlas in via mobil teknik.

Data är centrala för den moderna världens funktion. Och makt över affärer, demokrati och utbildning kommer sannolikt att fortsätta ligga med data och databeroende verktyg, som maskininlärning och artificiell intelligens.

För närvarande, de människor som har makt att fatta etiska beslut om användningen av data är vanligtvis vita män från höginkomsttagare, välutbildade familjer.

Ett forskningsföretag, Öppna MIC, som beskriver sig själv som "att investera i rasmångfald i teknikvärlden", granskade data från några av de största teknikföretagen och fann ett konsekvent mönster:oproportionerliga procentsatser av vita anställda jämfört med den bredare arbetande befolkningen.

Adobes arbetskraft är 69% vit, Apples är 56% vit, Google är 59% vit och Microsoft 58% vit. Listan fortsätter:"Svarta människor, Latinos, och indianer är underrepresenterade inom teknik med 16 till 18 procentenheter jämfört med deras närvaro i den amerikanska arbetskraften totalt sett. "

Detta förvärras av en förlamande brist på könsmångfald.

I en Microsoft -rapport från 2017, en undersökning bland brittiska IT- och teknikledare fann att i genomsnitt könsmixen bland deras lag var 80% män och 20% kvinnor. En svindlande 35% av de tillfrågade hade inga planer på att ändra denna obalans.

Siffrorna är liknande i Australien, enligt en studie av australiensiska professionella profiler på det sociala nätverket LinkedIn.

Det avslöjade att bara 14% av de verkställande rollerna i den lokala teknikindustrin innehades av kvinnor. Av 435, 000 personer inom IT listade på LinkedIn i Australien, endast 31% var kvinnor. Även dessa siffror kan vara optimistiska, enligt Australiens chefsforskare, Alan Finkel, som noterade att kvinnor utgör mindre än en femtedel av australierna som är kvalificerade i vetenskap, teknologi, teknik och matematik.

Kommer detta att förändras?

De som sannolikt kommer att ansvara för att utveckla framtidens algoritmer är de som studerar datavetenskap och matematiska vetenskaper just nu. Tyvärr, grupperna som dominerar dessa ämnen på skolor och universitet återspeglar till stor del den nuvarande arbetskraften.

Australiska inhemska studenter inskrivna på informationsteknologi på högskolenivå sjönk från en topp på 46, 945 år 2002 till 27, 547 2013. Även om siffrorna har förbättrats något enligt AEN University Rankings, kvinnor inom teknik och IT representerar fortfarande färre än var femte student.

Under tiden, Antalet flickor på gymnasienivå som tar de avancerade beräknings- och matematikämnen som behövs för att gå in i dessa roller förblir resolut lågt.

Detta skepp tar lång tid att vända.

Vad kan vi göra åt det?

Om framtidens kodare är dagens medelklasspojkar, hur förbereder vi dem för att göra opartiska etiska val när de blir morgondagens Zuckerberg? Och hur kan vi styra skeppet så att den rikedom och makt som kommer att fortsätta att flyta från behärskning av sådana tekniska färdigheter inte förnekas till dem som inte är vita och manliga?

Vårt utbildningssystem tillåter omedvetet pojkar att utbilda sig till tekniska människor utan färdigheter att sätta sitt arbete i ett socialt sammanhang, och låter tjejer göra omvänt.

Verkligen, medan många av de smartaste unga kvinnorna väljer att gå medicin eller juridik, dessa yrken är sårbara för framsteg för artificiell intelligens - advokater, radiologer, och de som gör preliminära diagnoser.

Vi befinner oss i en struktur där samma gamla obalanser stärks och ser ut att bestå. Men det är inte så det ska vara. Om vi ​​inte konfronterar kulturen genom stora förändringar i utbildningstrender, Inget kommer att förändras.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.