När ett antisemitiskt rykte flyttade från utkant till mainstream, det tog mindre än två veckor innan våldet bröt ut. Det falska påståendet om att den liberala filantropen George Soros finansierade eller stödde en karavan av honduranska flyktingar på väg till USA spred sig vilt från en enda tweet som publicerades den 14 oktober.

Tillsammans med högerextrema memes, det påståendet hjälpte till att motivera både en påstådd postbombplan och en masskytt i en synagoga i Pittsburgh. Hur dessa meddelanden färdades över internet under denna korta tidsperiod är bara ett exempel på hur extremistiska meddelanden och memes cirkulerar med otrolig hastighet över vanliga sociala medieplattformar.

Från vår utgångspunkt som forskare av visuell och digital kommunikation, memes - kort, ofta bildbaserade kommunikationsformer – är kraftfulla motorer för övertalning, även om de kan framstå som ofarliga eller till och med humoristiska. De kanske mest kända exemplen är LOLCats memes, koppla ihop roliga bilder av katter med anpassningsbara fraser eller meningar. Memes kan sprida information snabbt eftersom de bjuder in människor att dela eller remixa innehåll med liten ansträngning som krävs, vilket gör en utbredd spridning mer sannolikt.

Memes behöver inte vara humoristiska eller sakliga för att vara funktionella. Allt de behöver göra är att väcka uppmärksamhet på nätet, vilket ofta översätts till mainstream mediabevakning. Det gör memes till potenta verktyg för att distribuera desinformation. Dessutom, online- och vanliga plattformar som förstärker memes cirkulation kan beväpna falska påståenden och uppmuntra konspirationsteoretiker – ibland mot våld.

Memes flyttar konspirationer

Att förstå hur dessa budskap uppmuntrar antisemitism och andra former av terrorism innebär att man brottas med hur vita supremacister använder digitala medier. Som vi beskriver i vår kommande bok "Make America Meme Again, " meddelanden och memes som beväpnas i högerextrema nätverk är skickliga politiska verktyg som snabbt rör sig över sociala och traditionella medier. Eftersom memes är smygande politiska budskap som vanligtvis erbjuder upprorisk eller vanvördig humor, de kan enkelt retweetas, delas eller till och med klistras vid sidan av en skåpbil.

Före gryningen av dagens sociala medier nätverk, Det var svårare att hitta högerextremister, samlas ofta i lokala samhällen och senare diskret i onlineforum okända för de allra flesta internetanvändare. Paranoid, rabiata diskurser av denna typ kokar fortfarande runt de mörkare hörnen av internet. I dag, memes hjälper högerextremister att kommunicera med varandra och med den vanliga publiken.

Soros har demoniserats av högeraktivister i flera år, om inte decennier. Långt före attacken i Pittsburgh och postbombningarna, konspirationsteorier om honom var vanliga på alla möjliga högerorienterade diskussionsområden – inklusive på Infowars, 4chan, Reddit och Gab. Med start i mars 2018, termerna "husvagn, " "Invandrare" och "Soros" postades ofta tillsammans på Twitter och Facebook. Memes som skildrade Soros som en ond fascist som underlättade en invasion var vanliga.

Den påstådda postbombaren täckte sin skåpbil med "bilder och slagord som ofta hittas på högerextrema sociala mediekonton". Men den misstänkte hittade dem inte på radikala sajter där vita supremacister gömmer sig. Istället, baserat på hans aktivitet i sociala medier, han blev troligen radikaliserad på samma ställe som de flesta tittar på söta bilder på vänners barn och kollar på moster Beatrice – Facebook.

Från frans till nätverk

Sociala medieplattformar har försökt trycka bort hatretorik och oinformerade konspirationsteorier från sina sajter, men det är en svår uppgift både tekniskt och etiskt. Ofta, konspirationsfrämjare hittar sätt att få in sina idéer i vältrafikerade sociala medier, där algoritmer främjar inlägg som får många svar – oavsett om de är uppskattande eller upprörda.

Trots upprepade faktakontroller, konspirationen växte. Bots och andra automatiserade konton ledde till ungefär 60 procent av onlinepratet om husvagnen – men folk var också en del av det, delar ofta inlägg utan att göra någon form av verifiering. I sista hand, dessa meddelanden och memes kan ha inspirerat till terrorism.

I oktober, diskussioner om "karavanen av invandrare" hade vuxit bortom sociala medier. Inom en vecka efter den tweeten den 14 oktober som påstod att Soros finansierade en grupp flyktingar som sökte asyl, Den högerextrema kommentatorn Alex Jones sände konspirationen på Infowars, till sin publik med över 1 miljon dagliga besökare.

Konspirationen växte därifrån, med videon eller relaterade bilder som dyker upp på nästan alla plattformar. Så småningom nådde konspirationen hundratusentals potentiella tittare – inklusive de män som påstås bli postbombaren och synagogan.

De två männen har kanske aldrig känt till varandra eller den andres planer. Men deras handlingar sammanflätade med en ondskefullt nätverkande konspirationsteori.

Ansluter till mainstream media

När det finns tillräckligt med uppmärksamhet på sociala medier om ett ämne eller påstående, det kan bevakas i mer traditionella nyhetskanaler. Det kan sprida idén ännu mer, och ge trovärdighet till felaktigheter och lögner. Politiker kan också lägga märke till diskussioner på nätet och gå med, som den amerikanska senatorn Ted Cruz och en kontorist för Texas Harris County gjorde med den påstådda Soros-kopplingen till migrantkaravanen.

Konspiratoriska idéer blir ofta en ekokammare, där varje inlägg drar mer uppmärksamhet än det förra, genererar starkare upprördhet och eskalerar konspirationen. Den genomsnittliga användaren som tittar på en konspiratorisk meme kanske inte tror på dess budskap, men många användare kan. Även människor som inte tror på det från början kan komma att anta att det är sant efter att ha sett en idé flera gånger från olika källor. Åter andra kan sprida konspirationen bara för nöjes skull i andras nöd.

demonisera, dela upp, erövra

memes, tweets och andra former av propaganda är utformade för att reta upp beståndsdelar. Att skrämma väljarna med påstådda invasioner var ett sätt att reta upp väljarna när de skulle rösta i mellanårsvalet.

President Donald Trump har historiskt spridit högerextrema konspirationsteorier utan hänsyn till sanningen. Strax före valet – efter postbombförsöken och tragedin i Pittsburgh – upprepade Trump själv uttryckligen konspirationen om Soros.

När man är antisemit, rasistiska och främlingsfientliga idéer sprids via sociala medier, de kan infektera en mängd vanliga informationskällor – och göra rädsla och våld mer sannolikt. Det vidgar bilden av en farlig värld från vilken människor behöver skydd. Rädsla överklaganden av detta slag kan påverka röstningen, och till och med pressa människor att ta saken i sina egna våldsamma händer. Tills sociala medieplattformar eller federala myndigheter hittar sätt att minska extremism, spridningen av högerextrema memes, videor och texter kommer att fortsätta att äventyra medborgarna.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.