Mänskliga könsfördomar som begränsar rekryteringsmöjligheter för kvinnor efterliknas och förvärras av artificiell intelligens (AI) som används för att sortera meritförteckningar, enligt ny forskning.

Studien, på uppdrag av UniBank, analyserade hur en panel på 40 mänskliga rekryterare reagerade när exakt samma meritförteckningar presenterades med manliga och kvinnliga kön omväxlade. Processen tillämpades sedan på olika anställningsalgoritmer för att se om AI:n replikerade mänskliga fördomar.

Forskningen fann att den mänskliga rekryteringspanelen visade de starkaste exemplen på oavsiktlig partiskhet, konsekvent föredra meritförteckningar av de manliga kandidaterna framför kvinnliga motsvarigheter.

Rapportmedförfattare och genuspolitisk forskare från universitetets policylabb, Docent Leah Ruppanner sa att vi vet att fler kvinnor än män har förlorat jobbet under pandemin.

"Tyvärr, för data- och finansroller, kvinnors meritförteckningar rankades lägre än män av våra mänskliga paneldeltagare även om de hade samma kvalifikationer och erfarenhet, " sa professor Ruppanner.

Rapportmedförfattare och digital etikforskare från Center for AI and Digital Ethics (CAIDE), Dr Marc Cheong sa att algoritmer sedan utvecklades av forskarna för att replikera preferenserna för den mänskliga panelen.

Forskningen visade att även grundläggande algoritmer kunde efterlikna undermedvetna mänskliga könsfördomar utan att ta hänsyn till en kandidats meriter.

"Även när namnen på kandidaterna togs bort, AI bedömde CV baserat på historiska anställningsmönster där preferenser lutade mot manliga kandidater. Till exempel, att ge fördelar till kandidater med år av kontinuerlig tjänst skulle automatiskt missgynna kvinnor som har tagit ledigt från arbetet för vårdansvar, " sa Dr Cheong.

"Också, i fallet med mer avancerade AI:er som verkar inom en "svart låda" utan insyn eller mänsklig tillsyn, det finns en risk att varje initial förspänning kommer att förstärkas."

UniBank General Manager, Mike Lanzing, sagt när användningen av artificiell intelligens blir vanligare, det är viktigt att förstå hur befintliga fördomar leder till förment opartiska modeller.

"Vi måste se till att vi inte vänder på årtionden av framsteg mot kvinnors ekonomiska oberoende och säkerhet genom att förstärka förlegade attityder om vilken typ av arbete kvinnor är lämpade för, sa herr Lanzing.

Rapporten föreslog ett antal åtgärder som skulle kunna minska partiskhet i dessa processer, inklusive utbildningsprogram för personalpersonal och skapa transparenta anställningsalgoritmer utformade för att minska könsbias.