Sociala medier och delningsekonomi har skapat nya möjligheter genom att utnyttja onlinenätverk för att bygga upp förtroende och ta bort marknadshinder. Men en växande mängd forskning tyder på att gamla köns- och rasfördomar kvarstår, från mäns större popularitet på Twitter till afroamerikaners lägre acceptfrekvens på Airbnb.

Nu, använder fotodelningsplatsen Instagram som ett testfall, Columbia-forskare visar hur två vanliga rekommendationsalgoritmer förstärker en nätverkseffekt som kallas homofil där likartade eller likasinnade samlas. De visar vidare hur algoritmer lossnade i ett nätverk med homofilt effektivt gör kvinnor mindre synliga; de fann att kvinnorna i sin dataset, vars foton var lite mindre benägna att "gilla" eller kommentera, blev ännu mindre populär när rekommendationsalgoritmer introducerades.

Genom att räkna ut hur detta händer, forskarna hoppas att deras arbete, presenteras den 25 april på webbkonferensen i Lyon, kan bana väg för algoritmer som korrigerar för homofili.

"Vi visar helt enkelt hur vissa algoritmer tar upp mönster i data, "sa studiens huvudförfattare Ana-Andreea Stoica, en doktorand vid Columbia Engineering. "Detta blir ett problem när information som sprids genom nätverket är en jobbannons eller andra möjligheter. Algoritmer kan sätta kvinnor i ännu större nackdel."

Forskarna skrapade sina data från Instagram 2014, efter att Facebook köpte företaget men innan automatiska uppmaningar gjorde det lättare att få kontakt med vänner. Även om kvinnor var fler än män i sitt urval på 550, 000 Instagram -användare (54 procent till 46 procent), forskarna fann att mäns foton tenderade att bli bättre mottagna:52 procent av männen fick minst 10 "likes" eller kommentarer jämfört med 48 procent av kvinnorna.

Som förväntat, homofil spelade en roll. Forskarna fann att män var 1,2 gånger mer benägna att 'gilla' eller kommentera andra mäns foton snarare än kvinnors, medan kvinnor bara var 1,1 gånger mer benägna att umgås med andra kvinnor.

När de använde två allmänt använda rekommendationsalgoritmer-Adamic-Adar och Random Walk (vänner-av-vänner)-fann forskarna att andelen kvinnor som var anslutna till, eller förutspås rekommenderas till, minst 10 andra Instagram -användare sjönk från 48 procent i den ursprungliga datamängden, till 36 respektive 30 procent. Som förutsagt i en serie matematiska bevis i tidningen, forskarna fann också att skillnaden var störst bland Instagrams superinfluencers-människor som Instagram-vd Kevin Systrom, vars populära inlägg och 1,5 miljoner följare satte honom i topp tiondel av en procent för engagemang.

När algoritmer släpptes lös på detta exklusiva nätverk av ultraengagerande individer, kvinnors synlighet störtade. Även om kvinnor i topp. 1 procent för engagemang (med minst 320 anslutningar) var fler än män (54 procent till 46 procent), männen var mycket mer benägna att bli föreslagna för nya användare och snabbt utöka sina nätverk. Bara 26 procent och 28 procent av kvinnorna i toppen. 1 procent var sannolikt att rekommenderas enligt algoritmerna Adamic-Adar respektive Random Walk minst 23 gånger och 12 gånger, fann forskarna.

"Algoritmer plockar upp subtila mönster och förstärker dem, "sa studiens seniorförfattare, Augustin Chaintreau, datavetare vid Columbia Engineering och medlem i Columbia Data Science Institute. "Vi ber inte att algoritmer ska vara blinda för data, bara att de korrigerar sin egen tendens att förstora fördomarna redan där. "

Studien är den senaste som visar att rekommendationsalgoritmer, förutom att filtrera innehåll, kan påverka den långsiktiga strukturen i ett socialt nätverk. "Det är anmärkningsvärt att ett enkelt antagande om homofil leder algoritmer för att förstärka skillnader i social status, "sade Amit Sharma, en forskare vid Microsoft Research India som inte var inblandad i studien men nyligen talade i Columbia om sitt eget arbete med att utforska rekommendationsmotorer och socialt inflytande.

Algoritmiska ingrepp som balanserar bekvämlighet med etiska mål kan vara ett sätt att lösa problemet, han lade till. "Genom sådana här studier vi lär oss att praxis att optimera en enda mätare uteslutande, till exempel, antal nya vänner tillagda, är inte rätt väg. Tyvärr, alternativet är oklart. Vi kliar fortfarande på ytan för att förstå hur algoritmer påverkar långsiktigt mänskligt beteende. "