Tid är pengar och tyvärr för företag, att anställa nya medarbetare tar betydande tid - mer än en månad i genomsnitt, forskning visar.

Att anställa beslut är också fullt av mänsklig partiskhet, vilket leder till att vissa organisationer lämnar ut åtminstone en del av sina medarbetarsökningar till externa teknikföretag som skärmar sökande med algoritmer för maskininlärning. Om människor har så svårt att hitta den som passar bäst för sina företag, tänkandet går, kanske en maskin kan göra det bättre och mer effektivt.

Men ny forskning från ett team av datavetenskapliga forskare vid Cornell University väcker frågor om de algoritmerna och de tekniska företag som utvecklar och använder dem:Hur opartisk är den automatiska screeningsprocessen? Hur är algoritmerna uppbyggda? Och av vem, mot vilket slut, och med vilken data?

De fann att företag tenderar att gynna oklarhet framför öppenhet på detta framväxande område, där brist på konsensus om grundläggande punkter - formella definitioner av "partiskhet" och "rättvisa, "Till att börja med - har gjort det möjligt för teknikföretag att definiera och ta itu med algoritmisk snedvridning på sina egna villkor.

"Jag tror att vi börjar se ett växande erkännande bland skaparna av algoritmiska beslutsverktyg att de behöver vara särskilt medvetna om hur deras verktyg påverkar människor, "sa Manish Raghavan, en doktorand i datavetenskap och första författare till "Mitigating Bias in Algorithmic Employment Screening:Evaluating Claims and Practices, "kommer att presenteras i januari på Association for Computing Machinery Conference on Fairness, Ansvar och öppenhet.

"Många av de leverantörer vi stötte på i vårt arbete erkänner detta (inverkan) och de vidtar åtgärder för att hantera partiskhet och diskriminering, "Sade Raghavan." Men det finns en anmärkningsvärd brist på samsyn eller riktning om exakt hur detta ska göras. "

Forskarna sökte tillgänglig offentlig information för att börja förstå dessa verktyg och vilka åtgärder, om någon, företag har på plats för att utvärdera och mildra algoritmisk fördom. Skyddad av immaterialrättslagar, teknikföretag behöver inte avslöja någon information om sina algoritmiska modeller för visningar före anställning-även om vissa företag valde att erbjuda insikt.

Forskarna finjusterade 19 leverantörer som är specialiserade på algoritmiska screening före anställning, som, de hittade, inkludera frågor, videointervjuanalys och spel. De kammade företagets webbplatser, webinarier och alla tillgängliga dokument för insikter i leverantörens anspråk och praxis.

Mycket få leverantörer erbjuder konkret information om hur de validerar sina bedömningar eller avslöjar detaljer om hur de mildrar algoritmisk förspänning, forskare funnit.

"Många leverantörer nämner inte ansträngningar för att bekämpa partiskhet, vilket är särskilt oroande eftersom de antingen inte tänker på det alls, eller de är inte transparenta om sina metoder, "Sa Raghavan.

Även om de använder termer som "partiskhet" och "rättvisa, "Dessa kan vara vaga. En leverantör kan hävda att dess utvärderingsalgoritm är" rättvis "utan att avslöja hur företaget definierar rättvisa.

Det är som "frittgående" ägg, Raghavan sa:Det finns en uppsättning villkor under vilka ägg kan märkas frittgående, men vår intuitiva uppfattning om fri räckvidd kanske inte överensstämmer med dessa villkor.

"På samma sätt, att kalla en algoritm 'rättvis' vädjar till vår intuitiva förståelse av termen samtidigt som vi bara uppnår ett mycket snävare resultat än vi kanske hoppas på, " han sa.

Teamet hoppas att uppsatsen kommer att uppmuntra till transparens och konversation kring vad det innebär att agera etiskt inom området för bedömningar före anställning genom maskininlärning.

Med tanke på utmaningarna, kan det vara så att algoritmer bara inte är upp till jobbet att screena sökande? Inte så snabbt, Sa Raghavan.

"Vi vet från år av empiriska bevis för att människor lider av olika fördomar när det gäller att utvärdera anställningskandidater, "sa han." Den verkliga frågan är inte om algoritmer kan göras perfekta; istället, den relevanta jämförelsen är om de kan förbättra jämfört med alternativa metoder, eller i det här fallet, den mänskliga status quo.

"Trots deras många brister, " han sa, "algoritmer har potential att bidra till ett mer rättvist samhälle, och ytterligare arbete behövs för att säkerställa att vi kan förstå och mildra de fördomar de medför. "

Tidningens medförfattare är Solon Barocas, biträdande professor i informationsvetenskap, för närvarande på Microsoft Research; Jon Kleinberg, Tisch -universitetets professor i datavetenskap och interimsdekanus vid OSS; och Karen Levy, biträdande professor i informationsvetenskap.