Varje dag, användare av sociala medier utsätts för falska nyheter och politisk polarisering på sociala nätverk. Vad gör människor sårbara för att tro på falsk information de hittar på nätet?

Enligt forskare vid Penn State College of Information Sciences and Technology, användare kan lätt falla in i en ekokammare – ett slags online-kaninhål genom vilket användarna bara konsumerar ensidiga nyheter och politiska argument, så småningom misstror alla motsatta åsikter. För att bekämpa detta fenomen, forskarna har utvecklat ett nytt verktyg som tillämpar psykologiska koncept för att hjälpa individer att bli mer medvetna om och lyhörda för en ekokammareffekt.

Verktyget, ett spel som heter ChamberBreaker, är ett teoribaserat spel som gör det möjligt för en spelare att testa sin egen medvetenhet om innehåll som kan resultera i ekokammare och att observera hur de accelereras av spridningen av falska nyheter. Deras mål är att hjälpa spelare att motstå ekokammare i framtiden och i slutändan minska spridningen av falska nyheter.

"Eftersom människor som faller in i en ekokammare tenderar att konsumera den information de vill se, om och hur mycket informationen är densamma som deras övertygelse är vanligtvis viktigare än hur trovärdig informationen är, " sa Kyungsik Han, docent vid Hanyang University i Korea, som tog sin doktorsexamen vid Penn State College of IST och är motsvarande författare till forskningsartikeln. "Detta indikerar ett behov av att bedriva forskning om hur man kan hjälpa människor att i grunden förstå en ekokammare och uppleva dess negativa konsekvenser."

"Vi tenderar alla att rätta oss efter och hålla med om gruppens åsikter. Därför människor träffas naturligt med andra som har samma åsikt, sa Dongwon Lee, professor i informationsvetenskap och teknologi vid Penn State och en av tidningens författare. "Men om du inte är försiktig och inte tänker kritiskt, det finns en stor risk för att någon ska falla in i en ekokammare. Förhoppningsvis, i framtiden, den här typen av verktyg hjälper människor att lära sig en sorts onlinehygien – liknande att tvätta händerna för att skydda dig mot sjukdom."

Lade till Lee, "I sista hand, framgången för forskning om falska nyheter är baserad på hur människor kommer att uppfatta information och hur de kommer att ändra sitt beteende i enlighet med detta. Oavsett hur exakta AI-baserade falska nyhetsdetektorer är, i sista hand, om användare inte accepterar och ändrar sitt beteende, då kommer ingenting att fungera."

I ChamberBreaker, en spelare har till uppgift att försöka felinformera publiken i hopp om att få communitymedlemmar att falla in i en ekokammare. Att börja, spelaren tilldelas slumpmässigt ett scenario som fokuserar på en hälsa, politiska eller miljömässiga frågor, och presenteras sex tweets om det ämnet. Sedan, spelaren väljer tweets som kan få de andra medlemmarna att falla in i en ekokammare och samtidigt behålla sitt förtroende.

Spelaren kan övervaka sina ansträngningar genom två mätare på ChamberBreakers gränssnitt – en som spårar gemenskapens ekokammareffekt och en som mäter spelarens tillförlitlighet eller trovärdighet. Målet är att spelaren ska hålla båda gages över en viss tröskel. Om det lyckas, Communitymedlemmarna kommer att falla in i en ekokammare och spelaren kommer att bevittna de resulterande negativa effekterna på gemenskapen. Spelaren får sedan en poäng efter varje scenario.

Den nya designen av ChamberBreaker bygger på tre psykologiska teorier. Först, genom begreppet ympning, forskarna föreslår att mentala antikroppar mot desinformation kan uppnås på samma sätt som en människokropp skapar ett antigen efter att ha vaccinerats med en försvagad dos av ett virus. Det är, ungefär som ett virus, om det inte är markerat, felaktig information kan snabbt spridas genom nätverk från en person till en annan. Medan teorin om inokulering har tillämpats i andra samhällsvetenskapliga frågor, som klimatförändringar och politiska ämnen, ChamberBreaker är det första medvetenhetsverktyget som använder det mot ekokammareffekten.

Andra, forskarna studerar effekten av heuristik genom att bedöma – den process som människor går igenom för att fatta ett snabbt beslut med begränsad information – och hur det kan resultera i att en användare faller in i en ekokammare. I ChamberBreaker, en spelare kan observera de negativa effekterna av dessa snabba och mindre informerade beslut.

Slutligen, ChamberBreaker tillämpar gamification, som använder belöningar som poäng och märken för att uppmuntra spelare att slutföra en uppgift. Detta tillvägagångssätt kan förbättra användarnas självkännedom, öka deltagandet och hjälpa användare att lättare känna igen problembeteenden, sa forskarna.

Enligt Aiping Xiong, biträdande professor i informationsvetenskap och teknologi vid Penn State och en medförfattare, många användare går in i en ekokammare utan att någonsin vara medvetna om det.

"Fake news är inget nytt fenomen, " sa Xiong. "Faktiskt, som människor, vi har sett det om och om igen genom historien; det är ett urgammalt problem. Därför, det indikerar att det finns några grundläggande kognitiva mekanismer som spelar en roll."

När ChamberBreaker väl utvecklades, forskarna testade det för att avgöra om verktyget skulle hjälpa spelare att bli mer medvetna om ekokammareffekten och ändra sina beteenden för nyhetskonsumtion efter att ha spelat spelet. Två grupper med mer än 800 deltagare vardera gjorde en undersökning för att indikera deras nuvarande beteenden relaterat till nyhetskonsumtion online. Sedan, den ena gruppen ombads att spela ChamberBreaker medan den andra istället ombads läsa information om ekokammare och granska exempel på tweets och scenarier som används i spelet. Båda grupperna fyllde sedan i ytterligare en undersökning för att förutsäga deras framtida beteenden när de läste onlinenyheter.

Forskarna fann att de som spelade ChamberBreaker var betydligt mer benägna att ange sin avsikt att observera onlineinformation från mer olika perspektiv och visade en ökad medvetenhet om ekokammarfenomenet. Särskilt, spelare över 50 år och de med en proliberal hållning visade de mest betydande förändringarna jämfört med andra motsvarande grupper. Dessa fynd var alla statistiskt signifikanta.

"Vår metod har visat sig vara användbar för att hjälpa människor att inse vikten av informationsmångfald och ekokammarens egenskaper, samt att utbilda människor att bli hälsosammare nyhetskonsumenter, sa Youngseung Jeon, tidningens första och huvudförfattare.

I sista hand, forskarna hoppas att deras metod kan tillämpas på annan forskning som handlar om frågor som rör informationskonsumtion.