Ny forskning har hittat ett sätt att identifiera extremister, som de som är associerade med terrorgruppen ISIS, genom att övervaka deras konton på sociala medier, och kan identifiera dem redan innan de publicerar hotfullt innehåll.

Forskningen, "Hitta extremister i sociala nätverk online, " som nyligen publicerades i tidskriften INFORMS Operationsforskning , leddes av Tauhid Zaman från Massachusetts Institute of Technology; Överstelöjtnant Christopher E. Marks, Amerikanska armén; och Jytte Klausen från Brandeis University

Antalet och storleken på extremistgrupper online som använder sociala nätverk för att trakassera användare, rekrytera nya medlemmar, och uppviglar till våld ökar snabbt. Medan sociala medieplattformar arbetar för att bekämpa detta (2016, Twitter rapporterade att det hade stängt 360, 000 ISIS-konton) förlitar de sig traditionellt mycket på användarnas rapporter för att identifiera dessa konton.

Dessutom, när ett konto har stängts av, det finns lite som kan göras för att hindra en användare från att öppna ett nytt konto, eller flera konton.

"Sociala medier har blivit en kraftfull plattform för extremistiska grupper, allt från ISIS till vita nationalistiska "alt-right" grupper, ", sa Zaman. "Dessa grupper använder sociala nätverk för att sprida hatisk propaganda och uppmuntra till våld och terrorattacker, gör dem till ett hot mot allmänheten."

Identifiera extremister innan de utgör ett hot online

Forskarna samlade in Twitter-data från cirka 5, 000 "frö"-användare som antingen var kända ISIS-medlemmar eller som var kopplade till många kända ISIS-medlemmar som vänner eller följare. De fick sina namn genom nyheter, bloggar, och rapporter som släppts av brottsbekämpande myndigheter och tankesmedjor.

Förutom att granska innehållet i 4,8 miljoner tweets från dessa användares tidslinjer (inklusive text, länkar, hashtaggar, och nämner), de spårade också kontoavstängningar, samt eventuella avstängningar av deras vänner och följares konton.

För syftet med denna studie, forskarna fokuserade på kontonätverk som skapats av kända ISIS- och Al Qaida-sympatisörer och kända utländska krigare och innehåll som hade flaggats av Twitter som terrorist till sin natur.

Använda statistisk modellering av extremistiskt beteende med optimerad sökpolicy och faktiska ISIS-användardata, forskarna utvecklade en metod för att förutsäga nya extremistiska användare, identifiera om mer än ett konto tillhör samma användare, samt förutsäga nätverksanslutningar för avstängda extremistanvändare som startar ett nytt konto.

Dessutom, genom att spåra och jämföra data på skärmnamn, Användarnamn, profilbilder och bannerbilder, forskarna kunde också identifiera 70 procent av ytterligare Twitter-profiler som innehas av extremistanvändare, med endast 2 procents förekomst av felklassificerade profiler.

"Vi skapade en ny uppsättning operativa kapaciteter för att hantera hotet från onlineextremister i sociala nätverk, ", sa Marks. "Vi kan förutsäga vem som är en extremist innan de lägger upp något innehåll, och sedan kunna förutsäga var de kommer att gå in i nätverket igen efter att de har stängts av. Kortfattat, vi kan automatiskt ta reda på vem som är extremist och behålla dem i det sociala nätverket."

Medan studien genomfördes med hjälp av data från konton som tillhör ISIS-extremister på Twitter, deras metodik kan tillämpas på vilken extremistgrupp som helst och vilket socialt nätverk som helst.

"Användare som ägnar sig åt någon form av extremism eller trakasserier online kommer att ha mycket liknande beteendeegenskaper i sociala nätverk, " sade Klausen. "De kommer att ansluta till en specifik uppsättning användare som bildar deras extremistgrupp. De kommer att skapa nya konton som kommer att likna deras gamla konton efter att ha stängts av, och när återgången till det sociala nätverket efter en avstängning, det är stor sannolikhet att de kommer att återknyta kontakten med vissa tidigare vänner."