Konspirationsteoretikern och den amerikanska högerextrema mediepersonligheten Alex Jones beordrades nyligen att betala 45 miljoner USD (37 miljoner pund) skadestånd till familjen till ett barn som dödades i skolskjutningen i Sandy Hook 2012.

Jones hade hävdat att att bli förbjuden eller "deplattformad" från stora sociala medier för sina extrema åsikter påverkade honom negativt ekonomiskt, och liknade situationen med "fängelse". Men under rättegången uppskattade kriminalekonomen Bernard Pettingill att Jones konspirationswebbplats InfoWars tjänade mer pengar efter att ha blivit avstängd från Facebook och Twitter 2018.

Så fungerar online deplatforming verkligen? Det är inte möjligt att mäta inflytande på ett vetenskapligt rigoröst sätt så det är svårt att säga vad som händer med en person eller grupps övergripande inflytande när de deplattformar. Sammantaget tyder forskning på att deplatforming kan minska aktiviteten för skändliga aktörer på dessa webbplatser. Det kommer dock med ett pris. När deplattformade människor och grupper migrerar någon annanstans kan de förlora följare men också bli mer hatiska och giftiga.

Vanligtvis innebär deplattforming åtgärder som vidtas av de sociala medierna själva. Men det kan göras av tredje part som de finansiella institutionerna som tillhandahåller betaltjänster på dessa plattformar, såsom PayPal.

Att stänga en grupp är också en form av deplatforming, även om personerna i den fortfarande är fria att använda sajterna. Till exempel stängdes The_Donald subreddit (ett forum på webbplatsen Reddit) för att vara värd för hatiskt och hotfullt innehåll, som ett inlägg som uppmuntrade medlemmar att delta i en vit supremacist-rally.

Fungerar deplatforming?

Forskning visar att deplattforming har positiva effekter på plattformen personen eller gruppen sparkades ut från. När Reddit förbjöd vissa forum som utsätts för överviktiga människor och afroamerikaner, slutade många användare som var aktiva på dessa hatiska subreddits att publicera på Reddit helt och hållet. De som höll sig aktiva lade upp mindre extremt innehåll.

Men den deplattformade gruppen eller personen kan migrera. Alex Jones fortsätter att arbeta utanför vanliga sociala nätverk, huvudsakligen genom sin InfoWars-webbplats och podcaster. Ett förbud från big tech kan ses som ett straff för att utmana status quo på ett ocensurerat sätt, vilket förstärker banden och känslan av tillhörighet mellan följare.

Gab skapades som ett alternativt socialt nätverk 2016, som välkomnar användare som har blivit avstängda från andra plattformar. Sedan U.S. Capitol-upproret har Gab twittrat om dessa förbud som ett hedersmärke och sagt att det har sett en ökning av antalet användare och jobbansökningar.

Mitt teams forskning tittade på subredditerna The_Donald och Incels (en manlig onlinegemenskap som är fientlig mot kvinnor), som flyttade till fristående webbplatser efter att ha blivit förbjudna från Reddit. Vi upptäckte att när farliga samhällen migrerade till olika plattformar blev deras fotavtryck mindre, men användarna blev betydligt mer extrema. På samma sätt visade användare som blev avstängda från Twitter eller Reddit en ökad aktivitetsnivå och toxicitet när de flyttade till Gab.

Andra studier om födelsen av sociala nätverk som Gab, Parler eller Gettr har hittat relativt liknande mönster. Dessa plattformar marknadsför sig själva som bastioner för yttrandefrihet, välkomnande användare som är avstängda eller avstängda från andra sociala nätverk. Forskning visar att extremism inte bara ökar till följd av slapp måttfullhet utan också att tidiga sajtanvändare har ett oproportionerligt stort inflytande på plattformen.

De oavsiktliga konsekvenserna av deplatforming är inte begränsade till politiska gemenskaper utan sträcker sig till hälsodesinformation och konspirationsteorigrupper. Till exempel, när Facebook förbjöd grupper som diskuterade covid-19-vaccin, gick användarna på Twitter och postade ännu mer anti-vaccininnehåll.

Alternativa lösningar

Vad mer kan göras för att undvika den koncentration av onlinehat som deplattforming kan uppmuntra? Sociala nätverk har experimenterat med mjuka modereringsåtgärder som inte tar bort innehåll eller förbjuder användare. De begränsar innehållets synlighet (skuggförbud), begränsar andra användares möjlighet att engagera sig i innehållet (svara eller dela), eller lägger till varningsetiketter.

Dessa tillvägagångssätt visar uppmuntrande resultat. Vissa varningsetiketter har fått webbplatsanvändare att avfärda falska påståenden. Mjuk moderering minskar ibland användarinteraktioner och extremism i kommentarer.

Det finns dock potential för popularitetsbias (att agera på eller ignorera innehåll baserat på buzz runt det) om vilka ämnen plattformar som Twitter beslutar sig för att ingripa på. Samtidigt verkar varningsetiketter fungera mindre effektivt för falska inlägg om de lutar åt höger.

Det är också fortfarande oklart om mjuk moderering skapar ytterligare vägar för trakasserier, till exempel att håna användare som får varningsetiketter på sina inlägg eller förvärrande användare som inte kan dela innehåll vidare.

Ser fram emot

En avgörande aspekt av deplatforming är timing. Ju tidigare plattformar agerar för att stoppa grupper som använder vanliga plattformar för att växa extremistiska rörelser, desto bättre. Snabba åtgärder skulle i teorin kunna sätta käppar i hjulet för gruppernas ansträngningar att samla och radikalisera stora användarbaser.

Men detta skulle också kräva en samordnad insats från vanliga plattformar såväl som andra medier för att fungera. Radiopratshower och kabelnyheter spelar en avgörande roll för att främja utkantsberättelser i USA.

Vi behöver en öppen dialog om avvägningen av deplattformen. Som samhälle måste vi diskutera om våra samhällen ska ha färre människor som utsätts för extremistiska grupper, även om de som engagerar sig blir allt mer isolerade och radikaliserade.

För närvarande hanteras deplatforming nästan uteslutande av stora teknikföretag. Teknikföretag kan inte lösa problemet ensamma, men det kan inte forskare eller politiker heller. Plattformar måste samarbeta med tillsynsmyndigheter, medborgarrättsorganisationer och forskare för att hantera extremt onlineinnehåll. Samhällets struktur kan bero på det. + Utforska vidare

Man måste tänka om för att stoppa spridningen av hatiskt material på nätet

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.