Spridningen av desinformation på sociala medier är ett pressande samhällsproblem som teknikföretag och beslutsfattare fortsätter brottas med, men de som studerar denna fråga har fortfarande inte en djup förståelse för varför och hur falska nyheter sprids.

För att kasta lite ljus över detta grumliga ämne utvecklade forskare vid MIT en teoretisk modell av ett Twitter-liknande socialt nätverk för att studera hur nyheter delas och utforska situationer där en icke-trovärdig nyhet kommer att spridas mer än sanningen. Agenter i modellen drivs av en önskan att övertala andra att ta på deras synpunkt:Det viktigaste antagandet i modellen är att människor bryr sig om att dela något med sina följare om de tror att det är övertygande och sannolikt kommer att flytta andra närmare deras attityd. Annars delar de inte.

Forskarna fann att i en sådan miljö, när ett nätverk är starkt uppkopplat eller medlemmarnas åsikter är kraftigt polariserade, kommer nyheter som sannolikt är falska att spridas bredare och färdas djupare in i nätverket än nyheter med högre trovärdighet.

Detta teoretiska arbete skulle kunna informera empiriska studier av sambandet mellan nyhetstrovärdighet och storleken på dess spridning, vilket kan hjälpa sociala medieföretag att anpassa nätverk för att begränsa spridningen av falsk information.

"Vi visar att även om människor är rationella i hur de bestämmer sig för att dela nyheterna, kan detta fortfarande leda till förstärkning av information med låg trovärdighet. Med detta övertalningsmotiv, oavsett hur extrema mina övertygelser är – med tanke på att de mer extrema de är ju mer jag vinner på att flytta andras åsikter – det finns alltid någon som skulle förstärka [informationen], säger seniorförfattaren Ali Jadbabaie, professor och chef för institutionen för civil- och miljöteknik och en central fakultetsmedlem vid institutet för data, system och samhälle (IDSS) och en huvudutredare vid Laboratory for Information and Decision Systems (LIDS).

Första författaren Chin-Chia Hsu, en doktorand i programmet för sociala och tekniska system i IDSS, och Amir Ajorlou, en LIDS-forskare, följer med Jadbabaie på tidningen. Forskningen kommer att presenteras denna vecka på IEEE-konferensen om beslut och kontroll.

Grundande övertalning

Denna forskning bygger på en studie från 2018 av Sinan Aral, David Austin Professor of Management vid MIT Sloan School of Management; Deb Roy, docent i mediekonst och vetenskap vid Media Lab; och tidigare postdoc Soroush Vosoughi (nu biträdande professor i datavetenskap vid Dartmouth University). Deras empiriska studie av data från Twitter fann att falska nyheter sprids bredare, snabbare och djupare än riktiga nyheter.

Jadbabaie och hans medarbetare ville gå igenom varför detta inträffar.

De antog att övertalning kan vara ett starkt motiv för att dela nyheter – kanske agenter i nätverket vill övertala andra att ta på deras synpunkter – och bestämde sig för att bygga en teoretisk modell som skulle låta dem utforska denna möjlighet.

I sin modell har agenter en viss tidigare övertygelse om en policy, och deras mål är att övertala anhängare att flytta sina övertygelser närmare agentens sida av spektrumet.

En nyhet släpps initialt till en liten, slumpmässig undergrupp av agenter, som måste bestämma om de ska dela den här nyheten med sina följare. En agent väger artikelns nyhetsvärde och dess trovärdighet, och uppdaterar sin tro baserat på hur överraskande eller övertygande nyheten är.

"De kommer att göra en kostnads-nyttoanalys för att se om den här nyheten i genomsnitt kommer att flytta människor närmare vad de tycker eller flytta bort dem. Och vi inkluderar en nominell kostnad för att dela. Till exempel vidta åtgärder, om du scrollar på sociala medier måste du sluta för att göra det. Se det som en kostnad. Eller så kan en kostnad för ett rykte komma om jag delar med mig av något som är pinsamt. Alla har den här kostnaden, så ju mer extrem och desto mer intressant Nyheten är att ju mer du vill dela det", säger Jadbabaie.

Om nyheterna bekräftar agentens perspektiv och har en övertygande kraft som överväger den nominella kostnaden, kommer agenten alltid att dela med sig av nyheterna. Men om en agent tror att nyheten är något som andra kanske redan har sett, avskräcks agenten från att dela den.

Eftersom en agents vilja att dela nyheter är en produkt av dess perspektiv och hur övertygande nyheterna är, desto mer extremt en agents perspektiv eller ju mer överraskande nyheten är, desto mer sannolikt kommer agenten att dela dem.

Forskarna använde denna modell för att studera hur information sprids under en nyhetskaskad, som är en obruten delningskedja som snabbt genomsyrar nätverket.

Anslutning och polarisering

Teamet fann att när ett nätverk har hög anslutning och nyheterna är överraskande, är trovärdighetströskeln för att starta en nyhetskaskad lägre. Hög anslutning innebär att det finns flera anslutningar mellan många användare i nätverket.

På samma sätt, när nätverket till stor del är polariserat, finns det gott om agenter med extrema åsikter som vill dela nyheten och starta en nyhetskaskad. I båda dessa fall skapar nyheter med låg trovärdighet de största kaskaderna.

"För alla nyheter finns det en naturlig nätverkshastighetsgräns, ett utbud av anslutningsmöjligheter, som underlättar bra överföring av information där storleken på kaskaden maximeras av sanna nyheter. Men om du överskrider den hastighetsgränsen kommer du in i situationer där felaktiga nyheter eller nyheter med låg trovärdighet har en större kaskadstorlek, säger Jadbabaie.

Om åsikterna från användare i nätverket blir mer mångfaldiga är det mindre troligt att en dåligt trovärdig nyhet kommer att spridas mer än sanningen.

Jadbabaie och hans kollegor designade agenterna i nätverket för att bete sig rationellt, så modellen skulle bättre fånga handlingar som verkliga människor kan vidta om de vill övertyga andra.

"Någon kanske säger att det inte är därför människor delar, och det är giltigt. Varför människor gör vissa saker är ett ämne för intensiv debatt inom kognitionsvetenskap, socialpsykologi, neurovetenskap, ekonomi och statsvetenskap", säger han. "Beroende på dina antaganden får du olika resultat. Men jag känner att det här antagandet om att övertalning är motivet är ett naturligt antagande."

Deras modell visar också hur kostnader kan manipuleras för att minska spridningen av falsk information. Agenter gör en kostnads-nyttoanalys och delar inte med sig av nyheter om kostnaden för att göra det överväger fördelen med att dela.

"Vi gör inga policyrecept, men en sak som det här arbetet antyder är att det kanske inte är en dålig idé att ha en viss kostnad för att dela nyheter. Anledningen till att du får många av dessa kaskader är att kostnaden för att dela nyheterna är faktiskt väldigt låg, säger han.