YouTube har, återigen, misslyckades med att skydda barn online. De senaste undersökningarna av Wired och videobloggaren Matt Watson har påstått att pedofiler använde webbplatsens kommentarsektion för att lämna rovdjur på videor som innehåller och laddade upp av barn, och att dela länkar till material för sexuella övergrepp mot barn.

Som svar på undersökningarna - och hotet om en annonsörbojkott - har YouTube nu sagt att det kommer att inaktivera kommentarer på videor som innehåller små barn. Men tyvärr, detta är inte en isolerad händelse. I januari 2019 påstods att Microsofts sökmotor Bing dök upp och föreslår material för sexuella övergrepp mot barn. Och den här typen av incidenter är upprepningar av liknande problem som har inträffat under de senaste fem åren.

Verkligheten är att internet har ett systemproblem med material för sexuella övergrepp mot barn som inte är begränsat till nischade webbplatser eller det mörka nätet utan som gömmer sig i blicken bland innehåll som är värd och kontrolleras av teknikjättarna. Vi måste göra mer för att skydda barn online och den här åtgärden måste gå utöver justeringar till algoritmer eller stänga av kommentarer.

2016, mer än 57, 000 webbsidor som innehåller bilder av sexuella övergrepp mot barn spårades av Internet Watch Foundation-ett brittiskt organ som identifierar och tar bort sådant olagligt innehåll. Det var en ökning med 21% från föregående år. Det amerikanska National Center for Missing and Exploited Children fick mer än 10 miljoner rapporter om sexuellt övergrepp mot barn under 2017, en ökning med 22% från de föregående 12 månaderna. Det är troligt att dessa initiativ, medan det behövs, identifierar och tar bort endast en liten del av innehållet som distribueras online varje dag.

Bilder som visar övergrepp mot barn som läggs ut på nätet har en allvarlig inverkan på dessa misshandlade barn i år eller decennier efter att de primära fysiska övergreppen har upphört. Misshandlade barn har redan utsatts för men forskning visar att tillgängligheten av deras bilder online håller mardrömmen vid liv för barnet, deras familj och vänner. Det kan också väsentligt påverka offrets interaktion med internet resten av livet.

Teknikföretag är unikt positionerade att fungera som väktare av tröskeln genom att ta bort och rapportera sexuellt explicit innehåll som laddas upp till deras tjänster. Så varför gör de inte mer för att aggressivt skydda miljontals barn runt om i världen?

Även i början av webben, det var klart att tjänster som tillhandahålls av teknikföretag användes för att sprida innehåll om sexuella övergrepp mot barn. Redan 1995, AOL:s chattrum - en tidig inkarnation av sociala medier - användes enligt uppgift för att dela med sig av barnmisshandel. Som svar, AOL:s chefer på den tiden hävdade att de gjorde sitt bästa för att tygla övergrepp mot sitt system men att deras system var för stort för att hantera. Detta är exakt samma ursäkt som vi hör mer än två decennier senare från teknikens titaner.

Mellan 2003 och 2008, trots upprepade löften om att agera, stora teknikföretag misslyckades med att utveckla eller använda teknik som kan hitta och ta bort olagligt eller skadligt innehåll, även om det bryter mot deras användarvillkor. Sedan 2009, Microsoft arbetade med National Center for Missing and Exploited Children och ett team vid Dartmouth College som inkluderade en av oss (Hany Farid) för att utveckla tekniken photoDNA. Denna programvara hittar snabbt och tar bort kända förekomster av sexuellt innehåll från barn när det laddas upp, och har tillhandahållits utan kostnad till teknikföretag som deltar i initiativet.

Efter år av press, photoDNA används nu av många webbtjänster och nätverk. Men teknikföretag har sedan misslyckats med att förnya sig ytterligare för att svara på en allt mer sofistikerad kriminell underjorden. Till exempel, trots att man förutser ökningen av videor om övergrepp mot barn, teknikföretag har ännu inte implementerat system som kan identifiera kränkande bilder som fotoDNA kan göra för bilder.

Dessa företag måste agera snabbare för att blockera och ta bort olagliga bilder, samt att svara på annan aktivitet som möjliggör och uppmuntrar till utnyttjande av barn. Detta innebär att ständigt utveckla ny teknik, men också i grunden ompröva det perversa incitamentet att tjäna pengar på användarinnehåll, oavsett vad innehållet egentligen är.

Står i vägen för kontroll

Dock, en kombination av ekonomi, juridiska och filosofiska frågor står i vägen för teknikföretag som tar sig an olaglig verksamhet på sina tjänster. I det första fallet, att ta bort innehåll är i många fall helt enkelt dåligt för företag eftersom det minskar möjligheterna till annonsintäkter och samlar in användardata (som också kan säljas).

Under tiden, lagen fritar ofta teknikföretag från ansvar för innehållet de är värd för. I USA, 230 § i Communications Decency Act ger teknikföretag bred immunitet mot åtal för olaglig verksamhet för sina användare. Denna immunitet är beroende av att kategorisera YouTube eller Facebook som godartade "plattformar" i motsats till aktiva "utgivare". Ställningen i EU är liknande. Vad mer, vissa teknikföretag tror att olaglig verksamhet är ett statligt ansvar, snarare än ett företag.

Med tanke på storleken, rikedom och räckvidd för teknikjättarna, dessa ursäkter motiverar inte passivitet. De måste proaktivt moderera innehåll och ta bort olagliga bilder som har laddats upp till deras webbplatser. De kan och bör hjälpa till att informera forskning inom detta viktiga område för barnsäkerhet, samarbetar med brottsbekämpning och forskare för att undersöka och avslöja gissel av barnmisshandel online.

Annonsörer kan sätta ekonomisk press på att uppmuntra webbplatser att moderera och blockera olagligt och kränkande innehåll från tredje part (som flera företag har gjort efter de senaste misslyckandena på YouTube). Men sådana bojkotter håller sällan. Så om det offentliga trycket inte är tillräckligt kan regeringens reglering som tvingar företag att följa sina egna användarvillkor och lokala lagar vara nödvändig.

Det kan vara svårt att polisera. Det kan få oavsiktliga konsekvenser, som att göra det svårare för små företag att konkurrera med de nuvarande teknikjättarna. Eller det kan uppmuntra företag att överreagera och bli alltför restriktiva med tillåtet innehåll. I vilket fall, vi skulle föredra att teknikföretag utnyttjar sin enorma rikedom och resurser och helt enkelt gör rätt.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.