I juni 2017, Google, Facebook, Twitter och Microsoft tillkännagav bildandet av Global Internet Forum to Counter Terrorism (GIFCT). Syftet med detta branschledda initiativ är att störa terroristexploateringen av dess tjänster. Nyligen, GIFCT-medlemmar hyllade prestationerna under sitt första verksamhetsår. Men, medan dessa framsteg måste erkännas, betydande utmaningar kvarstår.

Varje minut är det i genomsnitt 510, 000 kommentarer och 136, 000 foton delade på Facebook, 350, 000 tweets publicerade på Twitter och 300 timmars video uppladdad till YouTube.

Med tanke på detta, de största företagen förlitar sig i stor utsträckning på artificiell intelligens (AI). Facebooks användning av AI inkluderar bildmatchning. Detta förhindrar användare från att ladda upp ett foto eller en video som matchar ett annat foto eller video som tidigare har identifierats som terrorist. Liknande, YouTube rapporterade att 98 % av videorna som tas bort för våldsbejakande extremism också flaggas av maskininlärningsalgoritmer.

Framsteg hittills

En svårighet för sociala medieföretag är att, om en terroristgrupp blockeras från en plattform, det kan helt enkelt flyttas till en annan. Som svar på detta, GIFCT-medlemmar har skapat en delad industridatabas med "hashes". En hash är ett unikt digitalt fingeravtryck som kan användas för att spåra digital aktivitet. När pro-terroristinnehåll tas bort av en GIFCT-medlem, dess hash delas med de andra deltagande företagen för att de ska kunna blockera innehållet på sina egna plattformar.

Vid sitt senaste möte, GIFCT meddelade att hittills 88, 000 hash har lagts till i databasen. Så konsortiet är på väg att nå sitt mål på 100, 000 hash i slutet av 2018. Speciellt så, nu när ytterligare nio företag har anslutit sig till konsortiet, inklusive Instagram, Justpaste.it och LinkedIn.

Dessa ansträngningar har utan tvekan stört terroristers användning av sociala medieplattformar. Till exempel, under de 23 månaderna sedan 1 augusti, 2015, Twitter har stängt av nästan en miljon konton för att främja terrorism. Under andra halvåret 2017 YouTube tog bort 150, 000 videor för våldsbejakande extremism. Nästan hälften av dessa togs bort inom två timmar efter uppladdningen.

Framtida utmaningar

Ändå återstår mycket arbete. Som svar på avbrottet i deras användning av Twitter, anhängare av den så kallade Islamiska staten (IS) har försökt kringgå teknik för innehållsblockering genom vad som kallas outlinking, använda länkar till andra plattformar. Intressant, de webbplatser som oftast utlänkas till att inkludera justpaste.it, sendvid.com och archive.org. Detta verkar vara en medveten strategi för att utnyttja mindre företags brist på resurser och kompetens.

IS-anhängare har också flyttat sina samhällsbyggande aktiviteter till andra plattformar, i synnerhet Telegram. Telegram är en molnbaserad snabbmeddelandetjänst som ger valfria end-to-end-krypterade meddelanden. Denna kryptering stoppar meddelanden som läses av tredje part. Och det har använts flitigt för att dela innehåll producerat av officiella IS-kanaler.

Detta är en del av en bredare rörelse mot mer hemliga metoder. Andra krypterade meddelandetjänster, inklusive WhatsApp, har använts av jihadister för kommunikation och attackplanering. Webbplatser har också flyttats till Darknet. Darknet är en dold del av internet som är anonym till sin natur och endast nås med hjälp av specialiserad krypteringsprogramvara. En rapport från 2018 varnade för att Darknet-plattformar har potential att fungera som en jihadistisk "virtuell fristad".

Dessutom, färsk forskning har funnit att anhängare av andra jihadistgrupper än IS upplever betydligt mindre störningar på Twitter. Anhängare av dessa andra grupper kunde posta sex gånger så många tweets, följ fyra gånger så många konton och få 13 gånger så många följare som pro-IS-konton.

Det är också viktigt att bemöta andra former av våldsbejakande extremism. Högerextrema grupper har också en betydande närvaro på plattformar som YouTube och Facebook. Även om åtgärder har vidtagits för att störa deras närvaro online, såsom Facebooks beslut att förbjuda Britain First från sin plattform, det verkar som om dessa grupper också börjar migrera till Darknet.

Skjuta över målet

Precis som det finns en fråga om att nå terrorist sociala medier, det finns också utmaningar i samband med potentiell överräckning. Maskininlärningsalgoritmer kan inte förväntas identifiera terroristinnehåll med 100 % noggrannhet. En del innehåll kommer felaktigt att identifieras som terrorist och blockeras eller tas bort. Men utmaningarna här går längre än att bara tillämpa tröskeln korrekt. De handlar också om var tröskeln ska dras i första hand.

Svårigheterna med att definiera terrorism är välkända. Sammanfattat med sloganen "En persons terrorist är en annans frihetskämpe", en av de mest kontroversiella definitionsfrågorna är frågan om rättvisa skäl. Bör en definition av terrorism utesluta sådana som prodemokratiska aktivister i ett land som styrs av en förtryckande och tyrannisk regim? Enligt många länder, inklusive Storbritannien, svaret är nej. Som en domare i hovrätten uttryckte det:"Terrorism är terrorism, oavsett förövarnas motiv."

Om sociala medieföretag tar ett liknande tillvägagångssätt, detta kan få betydande konsekvenser. Verkligen, det finns redan oroande exempel. Under 2017, tusentals videor som dokumenterar grymheter i Syrien togs bort från YouTube av ny teknik riktad mot extremistisk propaganda. Dessa videor gav viktiga bevis på kränkningar av mänskliga rättigheter. Vissa fanns bara på YouTube, eftersom inte alla syriska aktivister och media har råd med ett offlinearkiv. Ändå är alternativet – att försöka skilja mellan rättvisa och orättvisa orsaker – fyllt av sina egna svårigheter.

I en tid då sociala medieföretag möter ökande press att göra mer för att ta itu med terroristexploatering av sina plattformar, de framsteg som gjorts under GIFCT:s första år är välkomna. Men det är bara det första steget.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.