Facebook har för första gången gjort tillgänglig data om omfattningen av kränkande kommentarer som publicerats på sin webbplats. Detta kan ha gjorts under det växande trycket från organisationer för att sociala medieföretag ska bli mer transparenta om onlinemissbruk, eller att få trovärdighet efter Cambridge Analytica -dataskandalen. Hur som helst, siffrorna ger inte en trevlig läsning.

Under en sexmånadersperiod från oktober 2017 till mars 20178, 21m sexuellt tydliga bilder, 3,5 miljoner grafiskt våldsamma inlägg och 2,5 miljoner former av hatprat togs bort från webbplatsen. Dessa siffror hjälper till att avslöja några slående punkter.

Som förväntat, data indikerar att problemet förvärras. Till exempel, mellan januari och mars uppskattades att för varje 10, 000 meddelanden online, mellan 22 och 27 innehöll grafiskt våld, upp från 16 till 19 under de tre föregående månaderna. Detta underlättar det faktum att i Storbritannien, åtal för missbruk på nätet har minskat, som visas i grafen nedan.

Men vad Facebook inte har berättat för oss är lika viktigt.

Det sociala nätverket har varit under växande tryck för att bekämpa övergrepp på sin webbplats, särskilt, avlägsnande av terroristpropaganda efter händelser som Westminster -attacken 2017 och bombning i Manchester Arena. Här, företaget har varit proaktivt. Mellan januari och mars 2018, Facebook tog bort 1,9 miljoner meddelanden som uppmuntrar till terroristpropaganda, en ökning med 800, 000 kommentarer jämfört med de tre föregående månaderna. Totalt 99,5% av dessa meddelanden hittades med hjälp av avancerad teknik.

Vid första ögonkastet, det ser ut som att Facebook framgångsrikt har utvecklat programvara som kan ta bort detta innehåll från sin server. Men Facebook har inte publicerat siffror som visar hur utbredd terroristpropaganda är på sin webbplats. Så vi vet verkligen inte hur framgångsrik programvaran är i detta avseende.

Ta bort våldsamma inlägg

Facebook har också använt teknik för att avlägsna grafiskt våld från sin webbplats. Mellan de två tremånadersperioderna var det en ökning med 183% i antalet borttagna inlägg som märktes grafiskt våldsamma. Totalt 86% av dessa kommentarer flaggades av ett datasystem.

Men vi vet också att Facebooks siffror också visar att upp till 27 av 10, 000 kommentarer som gjorde det förbi upptäcktstekniken innehöll grafiskt våld. Det låter inte som många, men det är värt att överväga det stora antalet totala kommentarer som publicerats på webbplatsen av dess mer än 2 miljarder aktiva användare. En uppskattning tyder på att 510, 000 kommentarer läggs ut varje minut. Om det är korrekt, det skulle betyda 1, 982, 880 våldsamma kommentarer läggs ut var 24:e timme.

För att kompensera för fel i dess detekteringsprogramvara, Facebook, som andra sociala nätverk, har i åratal förlitat sig på självreglering, med användare uppmuntrade att rapportera kommentarer som de anser inte borde finnas på webbplatsen. Till exempel, mellan januari och mars 2018, Facebook tog bort 2,5 miljoner kommentarer som ansågs vara hatfulla, ändå bara 950, 000 (38%) av dessa meddelanden hade flaggats av dess system. De andra 62% rapporterades av användare. Detta visar att Facebooks teknik inte lyckas bekämpa hatprat på ett adekvat sätt i sitt nätverk, trots den växande oron för att sociala nätverksanläggningar driver på hatbrott i den verkliga världen.

Hur många kommentarer rapporteras?

Detta leder oss till den andra viktiga siffran som inte ingår i de data som publiceras av Facebook:det totala antalet kommentarer som rapporteras av användare. Eftersom detta är en grundläggande mekanism för att bekämpa missbruk online, mängden rapporter som görs till företaget bör göras offentligt tillgänglig. Detta gör att vi kan förstå hela omfattningen av kränkande kommentarer som görs online, samtidigt som det tydliga det totala antalet meddelanden Facebook inte tar bort från webbplatsen.

Facebooks beslut att offentliggöra data som avslöjar omfattningen av missbruk på sin webbplats är ett viktigt steg framåt. Twitter, däremot, ombads om liknande information men vägrade att släppa den, hävdar att det skulle vara vilseledande. Klart, inte alla kommentarer som flaggats av användare av sociala nätverkssajter bryter mot dess villkor. Men Twitters underlåtenhet att offentliggöra denna information tyder på att företaget inte är villigt att avslöja omfattningen av övergrepp på sin egen webbplats.

Dock, även Facebook har fortfarande en lång väg att gå för att nå total transparens. Helst, alla sociala nätverkssajter skulle släppa årliga rapporter om hur de hanterar missbruk online. Detta skulle göra det möjligt för tillsynsmyndigheter och allmänheten att hålla företagen mer direkt ansvariga för misslyckanden med att ta bort onlinemissbruk från sina servrar.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.