Algoritmer används för att anpassa vårt nyhetsflöde på sociala medier. Men risken är att de synpunkter vi ställs inför blir allt mer begränsade och extrema. EPFL -forskare har utvecklat en lösning som skulle göra användarnas personliga innehåll mer balanserat, och deras projekt har redan skapat intresse bland människorättsaktivister.

När du klickar på en länk istället för en annan, ditt val kommer att påverka innehållet du kommer att visas på olika webbplatser längre ner i raden. Algoritmerna som används av sociala medieplattformar som Facebook lär sig vilka våra preferenser är och ger mer och mer innehåll som matchar våra intressen. Risken är att vi aldrig får visa något som strider mot våra åsikter, och detta kan förvränga vår syn på världen. "Genom att allt mer noggrant välja vad vi ser, dessa algoritmer förvränger verkligheten. Sociala medieplattformar blir effektivt ekokammare där åsikter kan bli alltmer extrema, " förklarar Elisa Celis, senior forskare vid skolan för data- och kommunikationsvetenskap (IC) vid EPFL.

Och detta kan ha en inverkan på läsaren. "Många studier har visat att om du är osäker på något, ditt beslut kommer i slutändan att påverkas av hur ofta och i vilken ordning du får information. Så dessa algoritmer kan faktiskt forma din åsikt baserat på partisk data, "säger Celis. Som svar på detta problem, Celis arbetade med Nisheeth Vishnoi, professor vid skolan för data- och kommunikationsvetenskap (IC) vid EPFL, att utveckla ett system för att förhindra att användare matas med helt ensidigt innehåll.

En algoritm som är lika effektiv

De designade en algoritm som kan ändras för att säkerställa att användarna får en minimal mängd olika innehåll. "En plattform för sociala medier kan till exempel, välja att ha åsikter som motsätter sig användarens som utgör minst 10 procent av nyhetsflödet för att säkerställa att användarens syn på världen förblir mer balanserad, " förklarar forskarna. Algoritmen kan enkelt integreras i nuvarande system. Den största utmaningen är att få med de stora företagen. "För plattformar som Facebook, dessa algoritmer måste vara effektiva för att generera reklamintäkter. Vi ville visa att det är möjligt att skapa en algoritm som är lika effektiv men som gör att innehåll kan anpassas på ett mer rättvist och mer balanserat sätt, "förklarar Vishnoi.

Att öka regeringarnas medvetenhet om denna fråga kommer att vara en nyckelfaktor när det gäller att fylla lagstiftningsgapet på detta område. Flera människorättsorganisationer har redan visat intresse för forskarnas projekt, som de nyligen presenterade för delegater från människorättsorganisationer i Genève, inklusive till medlemmar av FN:s högkommissarie för mänskliga rättigheter. "Dessa algoritmer är för närvarande totalt oreglerade eftersom effekterna av den fördom de genererar ännu inte är korrekt förstått. Som medborgare, Jag känner mig maktlös eftersom jag inte har kontroll över innehållet jag ser. Det nuvarande tillståndet kan visa sig vara ganska farligt för demokratin. Vi måste verkligen leta efter alternativa lösningar, "tillägger Vishnoi.