Sociala nätverk online gör anspråk på att skapa kontakter och föra människor samman. Men algoritmerna för rangordning och rekommendation som till exempel föreslår vem man ska få kontakt med, eller vilka de mest relevanta forskarna inom ett område är, är inte rättvisa. En studie som just publicerats i tidskriften Scientific Reports visar att algoritmerna kan förvärra ojämlikheterna och diskriminera vissa grupper av människor i högsta rang.

Studien undersökte hur sociala mekanismer påverkar rangfördelningen av två välkända algoritmer, nämligen PageRank, en av de viktigaste algoritmerna som Googles sökmotor är uppbyggd på, och Who-to-Follow, Twitters algoritm som föreslår människor du inte är. följer just nu som du kanske tycker är intressant.

"Det har tidigare visat sig att rankningsalgoritmer tenderar att öka populariteten för användare som redan är populära och som kan leda till förlust av möjligheter för vissa grupper av människor", förklarar Lisette Espín-Noboa, en beräkningssamhällsvetare på Complexity Science Hub Vienna (CSH) och uppsatsens första författare. "Vi ville förstå när dessa algoritmer kan gå fel, beroende på strukturen och egenskaperna hos ett nätverk."

Förstå algoritmer

Teamet simulerade olika nätverk, bestående av 2 000 individer, och justerade de sociala mekanismerna för relationer mellan individerna i varje nätverk. Forskarna kunde göra variationer i egenskaperna som tilldelats varje nätverk, såsom andelen av minoriteten, hur aktiva användare var i kontakt med andra användare och hur människor anslutit sig i nätverket. I synnerhet var forskarna intresserade av om individer associerade mer sannolikt med andra som redan var populära, och om de tenderade att länka till dem som liknade dem. Att föredra andra som liknar en själv är en princip som samhällsvetare kallar homofil ("fåglar av en fjäder flockar tillsammans").

Huvud social mekanism

Forskarna fann att den huvudsakliga sociala mekanismen som är ansvarig för att förvränga minoriteternas synlighet i rankningar i själva verket var homofil, tillsammans med andelen minoriteter. "Vi ser att när majoritetsgruppen umgås mestadels med andra medlemmar av majoriteten är minoritetsgruppen underrepresenterad i de högsta led", förklarar Espín-Noboa. "Men minoriteter kan övervinna denna underrepresentation genom att ansluta sig strategiskt till andra och kan försöka uppnå åtminstone statistisk paritet i de högsta led."

Statistisk paritet innebär att om minoriteten representerar 20 procent av personerna i nätverket, bör samma förhållande återspeglas i varje topp-k i rangordningen. "Ett sätt att öka synligheten för minoriteter i rangen är att göra dem mer aktiva i nätverket", säger Expín-Noboa. "Detta betyder att minoriteter borde skapa fler kopplingar till andra."

Ett annat sätt som skulle kunna göra minoriteter mer synliga är genom att diversifiera majoritetens kopplingar:genom att skapa fler kopplingar från majoritetsgruppen till minoritetsgruppen, finner studien.

Mer realistiska scenarier

"Vi har sett i en tidigare studie hur homofili kan påverka rankningen av minoriteter", säger medförfattaren Fariba Karimi som leder teamet "Network Inequality" vid CSH. "Det här dokumentet utgår från mer realistiska sociala nätverksscenarier och tittar inte bara på rankningsalgoritmer utan också på sociala rekommendationsalgoritmer som sociala nätverksplattformar som Twitter använder", säger hon. "Våra nya rön tyder på att ranknings- och rekommendationsalgoritmer i sociala nätverk online som Twitter verkligen kan förvränga minoriteternas synlighet på oväntade sätt."