Det krävs mycket för att chocka Kelvin Lay. Min vän och kollega var ansvarig för att inrätta Afrikas första dedikerade enheter för utnyttjande av barn och människohandel, och under många år var han en senior utredare för Child Exploitation Online Protection Center vid Storbritanniens National Crime Agency, specialiserad på extraterritoriella lagföring av barn exploatering över hela världen.
Men det som hände när han nyligen anmälde sig frivilligt till en demonstration av banbrytande identifieringsprogram gjorde honom mållös. Inom några sekunder efter att ha blivit matad med en bild av hur Lay ser ut idag, hämtade AI-appen en svindlande mängd onlinefoton av honom som han aldrig hade sett förut – inklusive i bakgrunden av någon annans fotografier från en brittisk Lions rugbymatch i Auckland åtta år tidigare.
"Det var häpnadsväckande," sa Lay till mig. "Och sedan scrollade demonstranten ner till ytterligare två bilder, tagna på två separata stränder – en i Turkiet och en annan i Spanien – förmodligen skördade från sociala medier. De var av en annan familj men med mig, min fru och två barn i bakgrunden. Barnen skulle ha varit sex eller sju; de är nu 20 och 22."
AI:n i fråga var ett av en arsenal av nya verktyg som implementerades i Quito, Ecuador, i mars när Lay arbetade med en arbetsgrupp i tio länder för att snabbt identifiera och lokalisera förövare och offer för sexuellt utnyttjande och övergrepp på barn online – en dold pandemi med över 300 miljoner offer runt om i världen varje år.
Det är där arbetet från Childlight Global Child Safety Institute, baserat vid University of Edinburgh, kommer in. Childlights vision, som lanserades för ett drygt år sedan i mars 2023 med ekonomiskt stöd från Human Dignity Foundation, är att använda den upplysande kraften hos data och insikter för att bättre förstå karaktären och omfattningen av sexuellt utnyttjande och övergrepp mot barn.
Jag är professor i internationell barnskyddsforskning och Childlights datachef, och i nästan 20 år har jag forskat om sexuella övergrepp och barnmisshandel, bland annat med New York City Alliance Against Sexual Assault och Unicef.
Kampen för att hålla våra unga människor säkra och säkra från skada har hämmats av en databortkoppling – data skiljer sig i kvalitet och konsistens runt om i världen, definitioner skiljer sig åt och ärligt talat, transparens är inte vad det borde vara. Vårt mål är att arbeta i partnerskap med många andra för att hjälpa till att sammanfoga systemet, täppa till dataluckor och lysa upp några av världens mörkaste brott.
Vår nya rapport, Into The Light, har tagit fram världens första uppskattningar av problemets omfattning i termer av offer och förövare.
Våra uppskattningar är baserade på en metaanalys av 125 representativa studier publicerade mellan 2011 och 2023, och visar att ett av åtta barn – 302 miljoner ungdomar – har upplevt sexuella övergrepp och utnyttjande online under en ettårsperiod före de nationella undersökningarna.
Dessutom analyserade vi tiotals miljoner rapporter till de fem största globala övervaknings- och polisorganisationerna – Internet Watch Foundation (IWF), National Center for Missing and Exploited Children (NCMEC), Canadian Center for Child Protection (C3P), International Association of Internet Hotlines (INHOPE), och Interpols internationella databas för sexuellt utnyttjande av barn (ICSE). Detta hjälpte oss att bättre förstå karaktären på bilder och videor över sexuella övergrepp mot barn på nätet.
Även om enorma dataluckor betyder att detta bara är en utgångspunkt, och långt ifrån en definitiv siffra, är siffrorna vi har upptäckt chockerande.
Vi fann att nästan 13 % av världens barn har blivit offer för att ta, dela och exponera sexuella bilder och videor utan samtycke.
Dessutom uppskattas drygt 12 % av barnen globalt ha varit föremål för värvning online, såsom oönskat sexuellt samtal som kan innefatta sexting utan samtycke, oönskade sexuella frågor och oönskade förfrågningar om sexuella handlingar från vuxna eller andra ungdomar.
Fallen har skjutit i höjden sedan COVID förändrade världens onlinevanor. Till exempel rapporterade Internet Watch Foundation (IWF) 2023 att material om sexuella övergrepp på barn där barn i grundskoleåldern i åldrarna sju till tio blir coachade för att utföra sexuella handlingar online hade ökat med mer än 1 000 % sedan Storbritannien låstes.
Välgörenhetsorganisationen påpekade att tusentals barn under pandemin blev mer beroende av internet för att lära sig, umgås och leka och att detta var något som internetrovdjur utnyttjade för att tvinga fler barn till sexuella aktiviteter – ibland även vänner eller syskon via webbkameror och smartphones.
Det har också skett en kraftig ökning av rapporterna om "finansiell utpressning", med barn som utpressats på grund av sexuella bilder som förövare har lurat dem att tillhandahålla – ofta med tragiska resultat, med en mängd självmord över hela världen.
Det här övergreppet kan också använda AI deepfake-teknik – notoriskt använd nyligen för att skapa falska sexuella bilder av sångerskan Taylor Swift.
Våra uppskattningar tyder på att drygt 3 % av barnen globalt har upplevt sexuell utpressning under det senaste året.
Denna pandemi av sexuell exploatering och övergrepp mot barn påverkar elever i varje klassrum, i varje skola, i varje land, och den måste omedelbart hanteras som en nödsituation för folkhälsan. Som med alla pandemier, som covid och aids, måste världen gå samman och ge ett omedelbart och heltäckande folkhälsosvar.
Vår rapport belyser också en undersökning som undersöker ett representativt urval av 4 918 män över 18 år som bor i Australien, Storbritannien och USA. Det har gett några häpnadsväckande fynd. När det gäller förövare:
Internet har gjort det möjligt för grupper av sexualbrottslingar att enkelt och snabbt dela bilder av övergrepp och utnyttjande av barn i en häpnadsväckande skala, och detta i sin tur ökar efterfrågan på sådant innehåll bland nya användare och ökar antalet övergrepp mot barn, vilket slår sönder otaliga liv.
Faktum är att mer än 36 miljoner rapporter om sexuella bilder online av barn som blivit offer för alla former av sexuellt utnyttjande och övergrepp lämnades in 2023 till vakthundar av företag som X, Facebook, Instagram, Google, WhatsApp och medlemmar av allmänheten . Det motsvarar en rapport varje sekund.
Liksom överallt i världen är Ecuador i greppet om detta moderna, transnationella problem:den snabba spridningen av sexuellt utnyttjande av barn och övergrepp på nätet. Det kan se en förövare i, säg, London, betala en annan förövare i någonstans som Filippinerna för att producera bilder av illdåd mot ett barn som i sin tur är värd för ett datacenter i Nederländerna och omedelbart sprids över flera andra länder.
När Lay – som också är Childlights chef för engagemang och risk – var i Quito 2024, betydde krigslagstiftningen att ett stort hotell som normalt sett var upptaget av turister som flockades för Galápagosöarnas nöjen var kusligt tyst, förutom en grupp på 40 brottsbekämpande myndigheter. analytiker, forskare och åklagare som hade mer än 15 000 bilder och videor för sexuella övergrepp mot barn att analysera.
Cachen med filer inkluderade material som loggas med myndigheterna årligen, innehåll från beslagtagna enheter och från Interpols databas för internationell sexuell exploatering av barn (ICSE). Filerna var potentiellt kopplade till förövare i tio latinamerikanska och karibiska länder:Argentina, Chile, Colombia, Costa Rica, Ecuador, El Salvador, Honduras, Guatemala, Peru och Dominikanska republiken.
Utnyttjande av barn förekommer i alla delar av världen, men baserat på underrättelser från flera partners på fältet, uppskattar vi att en majoritet av Interpols medlemsländer saknar utbildning och resurser för att korrekt svara på bevis på material om sexuella övergrepp mot barn som delas med dem av organisationer som National Center for Missing and Exploited Children (NCMEC). NCMEC är ett organ skapat av den amerikanska kongressen för att logga och bearbeta bevis på material om sexuella övergrepp mot barn som laddats upp runt om i världen och till stor del upptäckts av tekniska jättar. Vi tror dock att denna brist på kapacitet innebär att miljontals rapporter som varnar brottsbekämpande myndigheter om missbruksmaterial inte ens öppnas.
Operationen i Ecuador, i samarbete med International Center for Missing and Exploited Children (ICMEC) och USA:s hemlandsäkerhet, syftade till att hjälpa till att ändra detta genom att stödja myndigheterna att utveckla ytterligare färdigheter och självförtroende för att identifiera och lokalisera sexförbrytare och rädda barnoffer.
Centralt för Quito-operationen var Interpols databasdatabas som innehåller cirka fem miljoner bilder och videor som specialiserade utredare från mer än 68 länder använder för att dela data och samarbeta i ärenden.
Genom att använda bild- och videojämförelseprogram – huvudsakligen foto-ID-arbete som omedelbart känner igen det digitala fingeravtrycket av bilder – kan utredarna snabbt jämföra bilder de har upptäckt med bilder som finns i databasen. Programvaran kan omedelbart skapa kopplingar mellan offer, missbrukare och platser. Det undviker också dubbelarbete och sparar dyrbar tid genom att låta utredarna veta om bilder redan har upptäckts eller identifierats i ett annat land. Hittills har det hjälpt till att identifiera mer än 37 900 offer över hela världen.
Lay har betydande fälterfarenhet av att använda dessa resurser för att hjälpa Childlight att omvandla data till handling – ger nyligen tekniska råd till brottsbekämpande myndigheter i Kenya där framgångar inkluderade att använda data för att arrestera pedofilen Thomas Scheller. 2023 dömdes Scheller, 74, till 81 års fängelse. Den tyske medborgaren befanns skyldig av en domstol i Nairobi för tre fall av människohandel, oanständiga handlingar med minderåriga och innehav av material för sexuella övergrepp mot barn.
Men trots dessa dataframsteg finns det oro över brottsbekämpande myndigheters oförmåga att hålla jämna steg med ett problem som är för stort för att poliser ska kunna gripa sig ur vägen. Det är en som möjliggörs av nya tekniska framsteg, inklusive AI-genererade övergreppsbilder, som hotar att överväldiga myndigheter med sin skala.
I Quito, över en värmande regnsäsongsmåltid av encocado de pescado, en välsmakande regional fiskrätt i en kokosnötssås serverad med vitt ris, förklarade Lay:"Detta är verkligen inte för att peka ut Latinamerika men det har blivit tydligt att det finns en obalans i hur länder runt om i världen hanterar data Det finns några som hanterar i stort sett varje remiss som kommer in, och om det inte hanteras och något händer, kan människor förlora sina jobb. vissa länder får tusentals e-posthänvisningar om dagen som inte ens öppnas."
Nu ser vi bevis på att framsteg inom teknik också kan användas för att bekämpa sexuella rovdjur online. Men användningen av sådan teknik väcker etiska frågor.
Det kraftfulla, men omtvistade AI-verktyget som gjorde Lay mållös var ett exempel:ett av flera AI-ansiktsigenkänningsverktyg som har kommit ut på marknaden och med flera applikationer. Tekniken kan hjälpa till att identifiera människor med hjälp av miljarder bilder skrapat från internet, inklusive sociala medier.
AI-ansiktsigenkänningsprogram som denna har enligt uppgift använts av Ukraina för att avslöja falska inlägg på sociala medier, förbättra säkerheten vid kontrollpunkter och identifiera ryska infiltratörer, såväl som döda soldater. Det ska också ha använts för att hjälpa till att identifiera upprorsmakare som stormade USA:s huvudstad 2021.
Tidningen New York Times rapporterade om ett annat anmärkningsvärt fall. I maj 2019 varnade en internetleverantör myndigheterna efter att en användare fått bilder som föreställer sexuella övergrepp på en ung flicka.
En kornig bild hade en viktig ledtråd:ett vuxet ansikte synligt i bakgrunden som ansiktsigenkänningsföretaget kunde matcha med en bild på ett Instagram-konto med samma man, igen i bakgrunden. Detta trots det faktum att bilden av hans ansikte skulle ha sett ut ungefär hälften så stor som en mänsklig fingernagel när du tittade på den. Det hjälpte utredarna att fastställa hans identitet och platsen i Las Vegas där han befanns skapa materialet för sexuella övergrepp mot barn för att sälja på det mörka nätet. Det ledde till att en sjuårig flicka räddades och att han dömdes till 35 års fängelse.
Samtidigt hävdade den brittiska regeringen nyligen för sin del att mjukvara för ansiktsigenkänning kan tillåta polisen att "ligga ett steg före brottslingar" och göra Storbritanniens gator säkrare. Även om det för närvarande inte är tillåtet att använda sådan programvara i Storbritannien.
När Lay anmälde sig frivilligt för att låta sina egna funktioner analyseras, blev han förvånad över att appen inom några sekunder producerade en mängd bilder, inklusive en som fångade honom i bakgrunden av ett foto som togs vid rugbymatchen år innan. Tänk på hur utredare lika kan matcha en distinkt tatuering eller ovanlig tapet där övergrepp har inträffat och potentialen för detta som ett brottsbekämpande verktyg är lätt att uppskatta.
Naturligtvis är det också lätt att förstå den oro som vissa människor har på grund av medborgerliga friheter som har begränsat användningen av sådan teknik i hela Europa. I fel händer, vad kan sådan teknik betyda för en politisk oliktänkande som gömmer sig till exempel? En kinesisk startup för ansiktsigenkänning har blivit föremål för granskning av den amerikanska regeringen för dess påstådda roll i övervakningen av den uiguriska minoritetsgruppen, till exempel.
Liknande synpunkter görs ibland av stora tekniska förespråkare för end-to-end-kryptering på populära appar:appar som också används för att dela barnmisshandels- och exploateringsfiler i industriell skala – vilket effektivt släcker ljuset på några av världens mörkaste brott.
Varför – fråga integritetspuristerna – ska någon annan ha rätt att veta om deras privata innehåll?
Och så kan det tyckas för vissa som att vi har nått en kafkaisk punkt där rätten till integritet för missbrukare riskerar att övertrumfa integritets- och säkerhetsrättigheterna för de barn de misshandlar.
Det är uppenbart att om kryptering av populära fildelningsappar ska vara normen måste en balans uppnås som möter önskan om integritet för alla användare, med proaktiv upptäckt av material om sexuella övergrepp mot barn online.
Meta har nyligen visat att det finns potential för en kompromiss som kan förbättra barnsäkerheten, åtminstone till viss del. Instagram, som nyligen beskrevs av NSPCC som den plattform som används mest för grooming, har utvecklat ett nytt verktyg som syftar till att blockera sändning av sexuella bilder till barn – även om myndigheterna inte kommer att varnas om de som skickar materialet.
Detta skulle involvera så kallad skanning på klientsidan som Meta anser undergräver krypteringens främsta integritetsskyddande funktion – som bara avsändaren och mottagaren känner till innehållet i meddelanden. Meta har sagt att de rapporterar alla uppenbara fall av utnyttjande av barn som förekommer på sin webbplats från var som helst i världen till NCMEC.
En kompromiss med användningen av AI för att upptäcka förövare, föreslår Lay, är enkel:att säkerställa att den endast kan användas under strikt licens av barnskyddsproffs med lämpliga kontroller på plats. Det är inte "en silverkula", förklarade han för mig. AI-baserad ID kommer alltid att behöva följas upp av gammaldags polisarbete men allt som kan "uppnå på 15 sekunder vad vi brukade spendera timmar och timmar på att försöka få" är värt att noga övervägas, anser han.
Operationen i Ecuador, som kombinerar AI med traditionellt arbete, fick ett omedelbart genomslag i mars. ICMEC rapporterar att det ledde till att totalt 115 offer (främst flickor och mestadels i åldern 6-12 och 13-15) och 37 brottslingar (främst vuxna män) identifierades positivt över hela världen. Inom tre veckor sa ICMEC att 18 internationella ingripanden hade ägt rum, med 45 offer räddade och sju förövare arresterade.
På ett eller annat sätt måste en kompromiss träffas för att hantera denna pandemi. "Sexuella övergrepp mot barn är en global folkhälsokris som stadigt förvärras tack vare avancerad teknik som möjliggör omedelbar produktion och obegränsad distribution av material för utnyttjande av barn, samt oreglerad tillgång till barn online."
Detta är orden från Tasmanian, Grace Tame:en anmärkningsvärd överlevande från barndomsmisshandel och verkställande direktör för Grace Tame Foundation som arbetar för att bekämpa sexuella övergrepp mot barn.
"Som otaliga offer för sexuella övergrepp mot barn, blev mitt liv fullständigt upphävt av de bestående effekterna av trauma, skam, offentlig förnedring, okunnighet och stigma. Jag flyttade utomlands vid 18-årsåldern för att jag blev en paria i min hemstad, studerade inte tertiär utbildning som hoppats, missbrukade alkohol och droger, skadade sig själv och arbetade med flera minimilönejobb." Tame anser att "en centraliserad global forskningsdatabas är avgörande för att skydda barn."
Om internet och teknik förde oss dit vi är idag är AI:n som användes i Quito för att rädda 45 barn en kraftfull demonstration av teknikens kraft för gott. Arbetet i den tio länders arbetsgrupp vittnar dessutom om potentialen för globala svar på ett globalt problem på ett internet som inte känner några nationella gränser.
Större samarbete, utbildning och i vissa fall reglering och lagstiftning kan alla hjälpa till, och de behövs utan dröjsmål eftersom, som Childlights mantra lyder, kan barn inte vänta.
Tillhandahålls av The Conversation
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln. 
