Indiana Universitys Observatory on Social Media har lanserat ett nytt verktyg i kampen mot desinformation online:BotSlayer.

Mjukvaran, som är gratis och öppen för allmänheten, skannar sociala medier i realtid för att upptäcka bevis på automatiserade Twitter-konton – eller "bots" – som pushar meddelanden på ett samordnat sätt, en allt vanligare praxis att manipulera den allmänna opinionen genom att skapa det felaktiga intrycket att många människor pratar om ett visst ämne. Metoden är också känd som "astroturfing" eftersom den härmar utseendet på legitim gräsrotspolitisk aktivitet.

Genom att utnyttja observatoriets expertis och tekniska infrastruktur, BotSlayer ger grupper och individer av vilken politisk tillhörighet som helst makten att upptäcka samordnade desinformationskampanjer i realtid – utan förkunskaper om dessa kampanjer. Utvecklingen av programvaran stöddes av en gåva från Craig Newmark Philanthropies.

"Vi utvecklade BotSlayer för att göra det lättare för journalister och politiska kampanjer att övervaka potentiella nya desinformationskampanjer som försöker manipulera den allmänna opinionen med hjälp av bots, sa Filippo Menczer, professor vid IU School of Informatics, Computing and Engineering och chef för Observatoriet för sociala medier. "Om det finns en misstänkt ökning i trafiken kring något specifikt ämne, BotSlayer låter dig upptäcka det mycket snabbt så att du kan undersöka innehållet och dess promotorer och, om det verkar finnas missbruk av plattformen, rapportera det eller kommunicera till dina följare om det."

Användningen av vilseledande bots för att påverka den allmänna opinionen är en växande fråga inom politiken i USA och internationellt, lade till Menczer, som också är en del av en grupp forskare som fann utbredd användning av bots inför det amerikanska presidentvalet 2016. Andra botkampanjer har försökt påverka röster relaterade till den brittiska brexitrörelsen och valen i Frankrike, Tyskland och Italien.

Under upptakten till mellanårsvalet 2018, till exempel, den demokratiska kongressens kampanjkommitté använde allmänt tillgängliga verktyg skapade av observatoriet för att rapportera över 10, 000 bots sprider meddelanden om väljarundertryckande till Twitter, som stänger av kontona. Verktygen som användes för att informera rapporten var Botometer, som använder en algoritm för att tilldela en poäng till Twitter-konton baserat på sannolikheten att de är automatiserade, och Hoaxy, som låter individer söka och visualisera spridningen av specifika ämnen på Twitter i realtid. Botometer är ett av observatoriets mest populära verktyg, tar för närvarande emot över 100, 000 förfrågningar per dag.

BotSlayer, som kombinerar teknik från Hoaxy och Botometer, skapades delvis baserat på feedback från politiska organisationer och nyhetsorganisationer som bad om att göra observatoriets verktyg snabbare, kraftfullare och mer användarvänlig. Dessa organisationer inkluderar The Associated Press, New York Times och CNN.

Systemet använder en "avvikelsedetekteringsalgoritm" för att snabbt rapportera trendaktivitet vars plötsliga ökning sannolikt drivs av bots, sa Menczer.

Till exempel, BotSlayer kan användas under en presidentdebatt för att inte bara omedelbart upptäcka när en kandidats användarnamn eller relaterade hashtags är trendiga, men också automatiskt tilldela en "bot-poäng" för att indikera om ökningen verkar relaterad till botaktivitet. I affärer, BotSlayer kan hjälpa organisationer att skydda sig mot ryktehot som förlitar sig på automatiserade konton för att förstärka meddelanden. Inom journalistiken, verktyget kan användas för att övervaka mot manipulation av rapportering om trendande ämnen, eller varna allmänheten för desinformationsattacker.

Förutom att upptäcka trender, BotSlayer kan omedelbart generera en "nätverkskarta" som illustrerar hur ett visst ämne sprids över tiden. En botpoäng tilldelas också varje användare i nätverket, ger ett enkelt sätt att se de mest inflytelserika kontona – verkliga eller falska – i konversationen. Varje trendande "enhet" — en hashtag; ett användarhandtag; en bild, video, gif eller meme; eller ett nyckelord eller en fras—tilldelas också en procentsats för att indikera hur snabbt det ökar. En procentandel på 5, 000 indikerar en 50-faldig ökning av omnämnanden under de senaste fyra timmarna, till exempel.

För att använda BotSlayer, användare kan ladda ner programvaran via ett onlineformulär och följa enkla instruktioner för att installera den i molnet eller på sin egen server. Denna process kan utföras med några få klick, och utan kostnad. Det låter användare anpassa sin användning av verktyget och skyddar integriteten. Systemet nås via en webbdashboard integrerad med observatoriets övriga verktyg.

Vad de säger

"BotSlayer har potential att bli ett mycket kraftfullt nytt verktyg i vår globala kamp mot desinformation och desinformation. Under 2018 års val, vi använde en tidigare version av BotSlayer för att identifiera och slutligen ta bort skadliga konton under det allmänna valet. Det var mycket effektivt och lätt att använda. Detta banbrytande arbete av IU:s Observatory on Social Media är en extraordinär public service och mycket välkommen. Min förhoppning är att aktörer i demokratier över hela världen drar fördel av det som vi gjorde för förra valet här i USA." -Simon Rosenberg, en demokratisk strateg och senior rådgivare till DCCC under valcykeln 2017-18.