När ryktet kom att massakern i Nya Zeeland livestreamades på Facebook, Jag tänkte genast på Robert Godwin Sr. År 2017, Godwin mördades i Cleveland, Ohio, och initiala rapporter indikerade att angriparen streamade det på Facebook Live, på den tiden en relativt ny funktion i det sociala nätverket. Facebook klargjorde senare att den grafiska videon laddades upp efter händelsen, men händelsen uppmärksammade allmänheten på riskerna med livestreaming av våld.

I kölvattnet av Godwins mord, Jag rekommenderade att Facebook Live-sändningar försenades, åtminstone för Facebook-användare som hade berättat för företaget att de var under 18. På så sätt, vuxna användare skulle ha en möjlighet att flagga olämpligt innehåll innan barn exponerades för det. Facebook Live har sänt mord, såväl som andra allvarliga brott som sexuella övergrepp, tortyr och barnmisshandel. Även om företaget har anställt fler än 3, 000 ytterligare moderatorer för mänskligt innehåll, Facebook är inte bättre på att hindra skrämmande våld från att streama live online utan något filter eller varning för användarna.

Under 24 timmar efter massakern i Nya Zeeland, 1,5 miljoner videor och bilder av morden laddades upp till Facebooks servrar, meddelade företaget. Facebook lyfte fram det faktum att 1,2 miljoner av dem "blockerades vid uppladdning." Dock, som forskare och utbildare för sociala medier, Jag hörde att 300, 000 videor och bilder av ett massmord passerade genom dess automatiserade system och var synliga på plattformen.

Företaget publicerade nyligen några analytiska detaljer och noterade att färre än 200 personer såg livestreamen av massakern, och det överraskande nog, inga användare rapporterade det till Facebook förrän efter det. Dessa detaljer gör smärtsamt tydligt hur beroende Facebook är av användare för att flagga skadligt innehåll. De föreslår också att folk inte vet hur de ska rapportera olämpligt innehåll – eller inte har förtroende för att företaget kommer att agera på klagomålet.

Videon som återstod efter att livestreamen slutade sågs nästan 4, 000 gånger – vilket inte inkluderar kopior av videon som laddats upp till andra webbplatser och till Facebook av andra användare. Det är oklart hur många av de som såg det var minderåriga; ungdomar så unga som 13 år tillåts skapa Facebook-konton och kan ha stött på ofiltrerade bilder av mordiskt hat. Det är dags för företaget att ta steget upp och uppfylla löftet som dess grundare och VD, Mark Zuckerberg, gjorde för två år sedan, efter Godwins mord:"Vi kommer att fortsätta göra allt vi kan för att förhindra att tragedier som denna inträffar."

En enkel tidsfördröjning

I tv-branschen, korta tidsfördröjningar på några sekunder är typiska under sändningar av liveevenemang. Den tiden tillåter en moderator att granska innehållet och bekräfta att det är lämpligt för en bred publik.

Facebook förlitar sig på användare som moderatorer, och vissa livestreamar kanske inte har en stor publik som TV, så dess fördröjning skulle behöva vara längre, kanske några minuter. Först då skulle tillräckligt många vuxna användare ha granskat det och haft chansen att rapportera innehållet. Stora användare, inklusive förlag och företag, kan tillåtas att livestreama direkt efter avslutad utbildning. Facebook kan till och med låta folk begära en företagsmoderator för kommande livestreams.

Facebook har ännu inte tagit detta relativt enkla steg – och anledningen är tydlig. Tidsförseningar tog fäste i TV bara för att sändningsregulatorer straffade sändare för att sända olämpligt innehåll under liveshower. Det finns faktiskt ingen reglering för sociala medieföretag; de förändras endast i jakten på vinster eller för att minimera offentligt protester.

Huruvida och hur man reglerar sociala medier är en politisk fråga, men många amerikanska politiker har utvecklat djupa band med plattformar som Facebook. Vissa har förlitat sig på sociala medier för att samla in donationer, rikta in sig på supportrar med reklam och hjälpa dem att bli valda. Väl på kontoret, de fortsätter att använda sociala medier för att kommunicera med supportrar i hopp om att bli omvalda.

Federala myndigheter använder också sociala medier för att kommunicera med allmänheten och påverka människors åsikter – även i strid med amerikansk lag. Från min synvinkel, Facebooks roll som ett verktyg att vinna, behålla och sprida politisk makt gör politikerna mycket mindre benägna att tygla den.

USA:s reglering kommer inte snart

Kongressen har ännu inte vidtagit några meningsfulla åtgärder för att reglera sociala medieföretag. Trots starka uttalanden från politiker och till och med efterlyser utfrågningar om sociala medier som svar på attacken i Nya Zeeland, Amerikanska tillsynsmyndigheter kommer sannolikt inte att leda vägen.

Europeiska unionens tjänstemän sköter mycket av arbetet, särskilt kring integritet. Nya Zeelands regering har ökat, för, förbjuda livestream -videon från moskémassakern, vilket betyder att alla som delar det kan möta upp till NZ$10, 000 i böter och 14 års fängelse. Minst två personer har redan gripits för att ha delat det online.

Facebook kunde – och borde – agera nu

Mycket av diskussionen om att reglera sociala medier har övervägt att använda antitrust- och monopollagar för att tvinga de enorma teknikjättarna som Facebook att bryta upp i mindre separata företag. Men om det överhuvudtaget händer, det kommer att bli väldigt svårt – att bryta upp AT&T varade i ett decennium, från rättegången 1974 till lanseringen 1984 av "Baby Bell"-företagen.

Under tiden, det kommer att finnas många fler farliga och våldsamma incidenter som människor kommer att försöka livestreama. Facebook bör utvärdera sina produkters potential för missbruk och avbryta dem om effekterna är skadliga för samhället.

Inget barn ska någonsin se den sortens "rå och visceralt innehåll" som har producerats på Facebook Live – inklusive massmord. Jag tycker inte heller att vuxna användare ska utsättas för att bevittna sådana avskyvärda handlingar, eftersom studier har visat att det är hälsorisker att titta på grafiskt våld, såsom posttraumatisk stress.

Det är därför jag inte längre rekommenderar bara en försening av livestream för ungdomar – det var en vädjan för att skydda barn, när fler stora plattformsförändringar är osannolika. Men alla människor förtjänar bättre och säkra sociala medier. Jag uppmanar nu Mark Zuckerberg att stänga av Facebook Live i folkhälsan och säkerhetens intresse. Från min synvinkel, den funktionen bör endast återställas om företaget kan bevisa för allmänheten – och för tillsynsmyndigheter – att dess design är säkrare.

Att hantera livestreaming på ett säkert sätt inkluderar att ha mer än tillräckligt med professionella innehållsmoderatorer för att hantera arbetsbördan. Those workers also must have appropriate access to mental health support and safe working environments, so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.