En analys av information som delades på Twitter under det amerikanska presidentvalet 2016 har funnit att automatiserade konton – eller "bots" – spelade en oproportionerlig roll för att sprida felaktig information online.

Studien, genomförd av Indiana University forskare och publicerad 20 november i tidskriften Naturkommunikation , analyserade 14 miljoner meddelanden och 400, 000 artiklar delade på Twitter mellan maj 2016 och mars 2017, en period som sträcker sig över slutet av presidentvalet 2016 och presidentinvigningen den 20 januari, 2017.

Bland resultaten:Bara 6 procent av Twitter-konton som studien identifierade som bots räckte för att sprida 31 procent av informationen med "låg trovärdighet" på nätverket. Dessa konton var också ansvariga för 34 procent av alla artiklar som delades från källor med "låg trovärdighet".

Studien fann också att bots spelade en viktig roll för att främja innehåll med låg trovärdighet under de första ögonblicken innan en berättelse blir viral.

Den korta längden på denna tid – 2 till 10 sekunder – framhäver utmaningarna med att motverka spridningen av felaktig information online. Liknande problem ses i andra komplexa miljöer som aktiemarknaden, där allvarliga problem kan uppstå i ett ögonblick på grund av effekterna av högfrekvent handel.

"Den här studien visar att bots avsevärt bidrar till spridningen av desinformation online - samt visar hur snabbt dessa meddelanden kan spridas, sa Filippo Menczer, professor vid IU School of Informatics, Dator och teknik, som ledde studien.

Analysen avslöjade också att bots förstärker ett meddelandes volym och synlighet tills det är mer sannolikt att det delas brett – trots att de bara representerar en liten del av konton som sprider virala meddelanden.

"Människor tenderar att lita större på meddelanden som verkar komma från många människor, " sa medförfattaren Giovanni Luca Ciampaglia, en biträdande forskare vid IU Network Science Institute vid tidpunkten för studien. "Bots förgriper sig på detta förtroende genom att få meddelanden att verka så populära att riktiga människor luras att sprida sina budskap åt dem."

Informationskällor som märkts som låg trovärdighet i studien identifierades baserat på deras uppträdande på listor framtagna av oberoende tredjepartsorganisationer över butiker som regelbundet delar falsk eller vilseledande information. Dessa källor – som webbplatser med vilseledande namn som "USAToday.com.co" – inkluderar butiker med både höger- och vänsterlutande synpunkter.

Forskarna identifierade också andra taktiker för att sprida desinformation med Twitter-bots. Dessa inkluderade att förstärka en enda tweet – potentiellt styrd av en mänsklig operatör – över hundratals automatiska retweets; upprepa länkar i återkommande inlägg; och riktar in sig på mycket inflytelserika konton.

Till exempel, studien citerar ett fall där ett enda konto nämnde @realDonaldTrump i 19 separata meddelanden om miljontals illegala invandrare som röstade i presidentvalet – ett falskt påstående som också var en viktig diskussionspunkt för administrationen.

Forskarna körde också ett experiment i en simulerad version av Twitter och fann att raderingen av 10 procent av kontona i systemet – baserat på deras sannolikhet att vara bots – resulterade i en kraftig minskning av antalet berättelser från källor med låg trovärdighet i nätverket.

"Detta experiment tyder på att eliminering av bots från sociala nätverk avsevärt skulle minska mängden felaktig information på dessa nätverk, sa Menczer.

Studien föreslår också åtgärder som företag kan vidta för att bromsa spridningen av felaktig information på deras nätverk. Dessa inkluderar att förbättra algoritmer för att automatiskt upptäcka bots och att kräva en "människa i slingan" för att minska automatiserade meddelanden i systemet. Till exempel, användare kan behöva slutföra en CAPTCHA för att skicka ett meddelande.

Även om deras analys fokuserade på Twitter, studiens författare tillade att andra sociala nätverk också är sårbara för manipulation. Till exempel, Plattformar som Snapchat och WhatsApp kan kämpa för att kontrollera felaktig information på sina nätverk eftersom deras användning av kryptering och förstörbara meddelanden komplicerar möjligheten att studera hur deras användare delar information.

"När människor över hela världen i allt större utsträckning vänder sig till sociala nätverk som sin primära källa till nyheter och information, kampen mot desinformation kräver en grundad bedömning av den relativa effekten av de olika sätt på vilka den sprids, Menczer sa. "Detta arbete bekräftar att bots spelar en roll i problemet - och föreslår att deras minskning kan förbättra situationen."

För att utforska valmeddelanden som för närvarande delas på Twitter, Menczers forskargrupp har också nyligen lanserat ett verktyg för att mäta "Bot Electioneering Volume." Skapad av IU Ph.D. studenter, programmet visar nivån på botaktivitet kring specifika valrelaterade konversationer, såväl som ämnen, användarnamn och hashtags som de för närvarande trycker på.