Sociala medieföretag har klarat sig bra av USA:s kongressutfrågningar om upproret den 6 januari. De tjänade på livestreamad video när upprorsmakare stormade Capitol Building. De tjänade på den upphetsande bryggan av desinformation som fick tusentals att resa till Washington D.C. för "Rädda Amerika"-rallyt. De fortsätter att dra nytta av dess efterdyningar. Clickbait-extremism har varit bra för företagen.

Videofilmer som tagits av upprorsmakarna själva har också varit en viktig beviskälla för polis och åklagare. Dagen för Capitol Building-attacken överväldigades innehållsmoderatorer på vanliga sociala medieplattformar med inlägg som bröt mot deras policy mot uppvigling till eller glorifiering av våld. Webbplatser som var mer sympatiska för extremhögern, som Parler, var översvämmade med sådant innehåll.

I sitt vittnesmål för kongressutfrågningarna talade en före detta Twitter-anställd om att vädja till företaget att vidta starkare åtgärder. I förtvivlan, kvällen före attacken, skickade hon ett meddelande till kollegerna:"När folk skjuter varandra i morgon ska jag försöka vila i vetskapen om att vi försökte."

Med anspelning på tweets från tidigare president Trump, Proud Boys och andra extremistgrupper talade hon om att hon insåg att "vi var på infall av en våldsam folkmassa som var låst och laddad."

Behovet av förändring

Under veckorna efter massakern i Christchurch 2019 fanns det hoppfulla tecken på att nationer – individuellt och kollektivt – var beredda att bättre reglera internet.

Sociala medieföretag hade kämpat hårt mot att ta ansvar för sitt innehåll och citerade argument som speglade internetpionjärernas libertarianska filosofier. I frihetens namn, menade de, borde sedan länge etablerade regler och beteendenormer sättas åt sidan. Deras framgång med att påverka lagstiftare har gjort det möjligt för företag att undvika juridiska påföljder, även när deras plattformar används för att motivera, planera, utföra och livestreama våldsamma attacker.

Efter Christchurch tvingade den växande allmänhetens upprördhet de vanliga företagen till handling. De erkände att deras plattformar hade spelat en roll i våldsamma attacker, antog strängare policyer kring acceptabelt innehåll, anlitade fler innehållsmoderatorer och utökade sin förmåga att fånga upp extremt innehåll innan det publicerades.

Det verkade otänkbart redan 2019 att verkliga åtgärder inte skulle vidtas för att reglera och moderera sociala medieplattformar för att förhindra spridning av våldsam, onlineextremism i alla dess former. Livestreamen var ett kärnelement i Christchurch-attacken, noggrant inramad för att likna ett videospel och avsedd att inspirera till framtida attacker.

Nästan två år senare var flera sociala medieplattformar centrala för uppviglingen och organiseringen av den våldsamma attacken mot den amerikanska Capitolium som orsakade flera dödsfall och skador, och fick många att frukta att ett inbördeskrig var på väg att utbryta.

Sociala medier var faktiskt inblandade i alla aspekter av Capitol Building-attacken, precis som det hade varit i Christchurch-massakern. Båda jästes av vilda och ogrundade konspirationsteorier som cirkulerade fritt över sociala medieplattformar. Båda utfördes av människor som kände sig starkt kopplade till en onlinegemenskap av sanna troende.

Radikaliseringsprocessen

Stephen Ayres vittnesmål till kongressutfrågningarna den 6 januari ger ett fönster in i radikaliseringsprocessen.

Ayres beskrev sig själv som en "vanlig familjefar" som var "hård kärna i sociala medier", och erkände sig skyldig till en anklagelse om oordnat uppförande för sin roll i Capitoliuminvasionen. Han hänvisade till sina konton på Twitter, Facebook och Instagram som källan till sin tro att det amerikanska presidentvalet 2020 hade stulits. Hans primära källor var inlägg gjorda av den tidigare presidenten själv.

Ayres vittnade om att en tweet från president Trump hade fått honom att delta i "Rädda Amerika"-rallyt. Han exemplifierade de tusentals amerikaner som inte var medlemmar i någon extremistgrupp, men som hade blivit motiverade genom vanliga sociala medier att resa till Washington D.C.

Den tidigare amerikanska presidenten Trumps roll i framväxten av högerextremism, i USA och utanför, är ett återkommande tema i Rethinking Social Media and Extremism, som jag redigerade tillsammans med Paul Pickering. Vid tiden för massakern i Christchurch fanns det gott om bevis för att USA-baserade internetföretag tillhandahåller globala plattformar för extremistiska ändamål.

Men närhelst deras innehållsmoderering sträckte sig till extremhögerns röster, mötte dessa företag kritik från konservativa, inklusive från Trump Vita huset. Budskapet var tydligt:​​att tillåta fritt yttrandefrihet för den så kallade "alt-right" var det pris som sociala medieföretag skulle få betala för sitt oligopol. Även om den ökande faran för inhemsk terrorism var uppenbar, var hotet om antitrustprocesser ett kraftfullt avskräckande för företagsåtgärder mot högerextremister.

Sociala medieföretag har mött betydande press från nationer utanför USA. Till exempel, inom några månader efter Christchurch-attacken, samlades världsledare i Paris för att underteckna Christchurch-uppmaningen för att bekämpa våldsbejakande extremism online. Dokumentet var måttligt i tonen, men USA vägrade att skriva under. Istället fördubblades Vita huset genom att påstå att det största hotet låg i undertryckandet av konservativa röster.

2021 skrev Biden-administrationen på sig för sent till Christchurch Call, men den har inte lyckats föra fram några åtgärder inrikes. Trots en del tuffa prat under valkampanjen har president Biden inte kunnat anta lagstiftning som bättre skulle reglera teknikföretag.

Med mellanårsvalen i antågande – val som ofta går emot presidentens parti – finns det ingen anledning till optimism. Besluten från amerikanska lagstiftare kommer att fortsätta att ge eko globalt medan ägandet av västerländska sociala medier förblir starkt centrerat i USA

Självregleringens misslyckande

Libertarianismens anda lever vidare inom företag som inom ett decennium exploderade från hemodlade nystartade företag till biljonföretag. Deras engagemang för självreglering passade lagstiftare, som kämpade för att förstå denna nya och ständigt formskiftande teknik. Det påvisbara misslyckandet med självreglering har visat sig dödligt för terrorismens mål och utgör nu en fara för själva demokratin.

I sitt kapitel i Rethinking Social Media and Extremism ber Sally Wheeler oss att ompröva grunden för den sociala licens som sociala medieföretag har att verka inom demokratier. Hon menar att vi, snarare än att fråga om deras verksamhet är laglig, kan fråga vilka reformer som behövs för att säkerställa att sociala medier inte orsakar allvarlig skada på människor eller samhällen.

Sociala medieplattformar, som nu är centrala för tillhandahållandet av många offentliga tjänster, kan anses vara allmännyttiga och, enbart av denna anledning, vara föremål för andra och högre regler och förväntningar. Denna punkt visades rikligt om oavsiktligt av Facebook själv när det blockerade många sajter – inklusive räddningstjänster – under en oenighet med den australiensiska regeringen 2021. I processen riktade Facebook strålkastarljuset på landets växande beroende av en dåligt reglerad, privatägd plattform.

Mitt i det nationella ramaskriet efter massakern i Christchurch införde den australiensiska regeringen hastigt en lagstiftning som syftade till att öka ansvaret för internetföretag. Lagförslaget, som enligt uppgift utarbetades på bara 48 timmar innan det skyndades genom båda parlamentets kammare, skulle alltid vara felaktigt.

Effektiva reformer kräver att vi först erkänner internet som ett utrymme där handlingar har verkliga konsekvenser. De mest synliga offren är de som är direkt måltavla för hot om extremt våld – främst kvinnor, invandrare och minoriteter. Även när hoten inte genomförs skrämmas människor till tystnad, till och med självskada.

Mer lömsk men kanske lika skadlig på lång sikt är den totala nedgången i hövlighet som driver den offentliga diskursen mot extrema positioner. På sociala medier har det som är känt som Overton Window of mainstream politisk debatt inte så mycket drivits ut som sparkats in.

Det råder bred enighet om att befintliga rättsliga och regulatoriska ramar helt enkelt är otillräckliga för den digitala tidsåldern. Men även när den globala pandemin har accelererat vårt beroende av allt digitalt, finns det mindre enighet om problemets natur, mycket mindre om de åtgärder som krävs. Även om det helt klart behövs åtgärder, finns det alltid en risk för övergrepp.

Hur det demokratiska samhället fungerar beror lika mycket på vår förmåga att debattera idéer och uttrycka meningsskiljaktigheter som på att förebygga våldsbejakande extremism. Vår utmaning är att balansera det fria ordet mot andra konkurrerande rättigheter på internet, precis som vi gör på andra håll. Det nuvarande tillvägagångssättet att helt enkelt skärpa på straffen för sociala medieföretag är mer benägna att tippa balansen mot yttrandefriheten. I ett kommunikationslandskap som i allt högre grad koncentreras i händerna på bara några få stora företag, är vi i behov av fler röster och mer mångfald, inte mindre. + Utforska vidare

Kommer Donald Trump tillbaka till Facebook? Facebook kan komma att häva förbudet i januari, säger chefen

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.