En ny studie av UCLA-professorer erbjuder ett nytt sätt att förstå hur ogrundade konspirationsteorier uppstår online. Forskningen, som kombinerar sofistikerad artificiell intelligens och en djup kunskap om hur folklore är uppbyggd, förklarar hur orelaterade fakta och falsk information kan kopplas in i en narrativ ram som snabbt skulle falla isär om några av dessa element tas ur mixen.

Författarna, från UCLA College och UCLA Samueli School of Engineering, illustrerat skillnaden mellan berättande inslag i en avfärdad konspirationsteori och de som uppstod när journalister bevakade en faktisk händelse i nyhetsmedia. Deras tillvägagångssätt kan hjälpa till att belysa hur och varför andra konspirationsteorier, inklusive de kring covid-19, spridas — även i frånvaro av fakta.

Studien, publiceras i tidskriften PLOS ETT , analyserade spridningen av nyheter om "Bridgegate"-skandalen 2013 i New Jersey - en verklig konspiration - och spridningen av felaktig information om 2016 års "Pizzagate"-myt, den fullständigt påhittade konspirationsteorin att ett Washington, D.C., pizzarestaurangen var centrum för en barnsexhandelsring som involverade framstående tjänstemän från det demokratiska partiet, inklusive Hillary Clinton.

Forskarna använde maskininlärning, en form av artificiell intelligens, att analysera informationen som spreds på nätet om Pizzagate-historien. AI:n kan automatiskt reta ut alla människor, platser, saker och organisationer i en berättelse som sprids på nätet – oavsett om berättelsen är sann eller påhittad – och identifiera hur de är relaterade till varandra.

Hitta pusselbitarna

I båda fallen – vare sig det gäller en konspirationsteori eller en faktisk nyhetsartikel – etableras den narrativa ramen av relationerna mellan alla delar av handlingen. Och, det visar sig, konspirationsteorier tenderar att bildas kring vissa element som fungerar som det lim som håller ihop fakta och karaktärer.

"Att hitta berättelser gömda i sociala medier-forum är som att lösa ett stort pussel, med den extra komplikationen av buller, där många av bitarna bara är irrelevanta, sa Vwani Roychowdhury, en UCLA-professor i elektro- och datorteknik och expert på maskininlärning, och en huvudförfattare till tidningen.

På senare år har forskare har gjort stora framsteg i att utveckla artificiell intelligensverktyg som kan analysera textpartier och identifiera bitarna i dessa pussel. När AI lär sig att identifiera mönster, identiteter och interaktioner som är inbäddade i ord och fraser, berättelserna börjar bli "förnuftiga". Utifrån den enorma mängd data som finns tillgänglig på sociala medier, och på grund av förbättrad teknik, systemen kan i allt högre grad lära sig själva att "läsa" berättelser, nästan som om de vore människor.

De visuella representationerna av dessa berättelseramar visade forskarna hur falska konspirationsteoriberättelser hålls samman av trådar som förbinder flera karaktärer, platser och saker. Men de upptäckte att om ens en av dessa trådar skärs av, de andra elementen kan ofta inte bilda en sammanhängande berättelse utan den.

"En av kännetecknen för en konspirationsteoretisk narrativ ram är att den lätt "kopplas bort", '" sa Timothy Tangherlini, en av tidningens huvudförfattare, en professor i UCLAs skandinaviska sektion vars stipendium fokuserar på folklore, legend och populärkultur. "Om du tar ut en av karaktärerna eller berättelseelementen i en konspirationsteori, kopplingarna mellan de andra delarna av berättelsen faller isär."

Vilka element fastnar?

I kontrast, han sa, berättelserna kring faktiska konspirationer – eftersom de är sanna – tenderar att stå upp även om något givet element i berättelsen tas bort från ramverket. Tänk på Bridgegate, till exempel, där New Jersey-tjänstemän stängde flera körfält på George Washington Bridge av politiskt motiverade skäl. Även om hur många trådar som helst togs bort från nyhetsbevakningen av skandalen, berättelsen skulle ha hållit ihop:Alla de inblandade karaktärerna hade flera anknytningspunkter genom sina roller i New Jerseys politik.

"De är alla inom samma domän, i det här fallet New Jersey politik, som kommer att fortsätta att existera oavsett raderingarna, " Sa Tangherlini. "Dessa kopplingar kräver inte samma "lim" som en konspirationsteori gör."

Tangherlini kallar sig själv en "beräkningsfolklorist". Under de senaste åren, han har regelbundet samarbetat med Roychowdhury för att bättre förstå spridningen av information kring heta frågor som anti-vaccinationsrörelsen.

För att analysera Pizzagate, där konspirationsteorin uppstod från en kreativ tolkning av hackade e-postmeddelanden som släpptes 2016 av Wikileaks, forskarna analyserade nästan 18, 000 inlägg från april 2016 till februari 2018 från diskussionsforum på webbplatserna Reddit och Voat.

"När vi tittade på lagren och strukturen i berättelsen om Pizzagate, vi upptäckte att om du tar ut Wikileaks som ett av delarna i berättelsen, resten av anslutningarna håller inte, " sa Tangherlini. "I denna konspiration, Wikileaks e-postdump och hur teoretiker kreativt tolkade innehållet i det som fanns i mejlen är det enda limmet som håller samman konspirationen."

Data som genererades av AI-analysen gjorde det möjligt för forskarna att producera en grafisk representation av berättelser, med lager för stora underintriger av varje berättelse, och linjer som förbinder nyckelpersonerna, platser och institutioner inom och bland dessa lager.

Snabbbyggd kontra långsam förbränning

En annan skillnad som uppstod mellan verkliga och falska berättelser gällde den tid det tar att bygga. Berättarstrukturer kring konspirationsteorier tenderar att byggas upp och bli stabila snabbt, medan narrativa ramar kring faktiska konspirationer kan ta år att växa fram, sa Tangherlini. Till exempel, den narrativa ramen för Pizzagate stabiliserades inom en månad efter Wikileaks-dumpningen, och det förblev relativt konsekvent under de kommande tre åren.

"Det faktum att ytterligare information relaterad till en verklig konspiration dök upp under en längre tidsperiod (här fem och ett halvt år) kan vara ett av de tydliga tecknen på att skilja en konspiration från en konspirationsteori, " skrev författarna i studien.

Tangherlini sa att det blir allt viktigare att förstå hur konspirationsteorier florerar, delvis för att berättelser som Pizzagate har inspirerat vissa att vidta åtgärder som äventyrar andra människor.

"Hotberättelserna som finns i konspirationsteorier kan antyda eller presentera strategier som uppmuntrar människor att vidta verkliga åtgärder, " sa han. "Edgar Welch gick till Washington-pizzerian med en pistol och letade efter förmodade grottor som gömde offer för sexhandel."

UCLA-forskarna har också skrivit ett annat dokument som undersöker de narrativa ramarna kring konspirationsteorier relaterade till COVID-19. I den studien, som har publicerats på ett forum med öppen källkod, de spårar hur konspirationsteorierna läggs på tidigare cirkulerade konspirationsteorier som de om den upplevda faran med vacciner, och, i andra fall hur pandemin har gett upphov till helt nya, som tanken att 5G-mobilnätverk sprider coronaviruset.

"Vi använder samma pipeline för covid-19-diskussioner som vi gjorde för Pizzagate, " Sa Tangherlini. "I Pizzagate, målen var mer begränsade, och konspirationsteorin stabiliserades snabbt. Med covid-19, det finns många konkurrerande konspirationsteorier, och vi spårar anpassningen av flera, mindre konspirationsteorier till större. Men den underliggande teorin är identisk för alla konspirationsteorier."