Forskare vid University of Colorado Boulder har designat en ny teknik för att upptäcka otäcka personangrepp på sociala medier som Instagram.

Det nya tillvägagångssättet, utvecklad av CU Boulders CyberSafety Research Center, kombinerar flera olika datorverktyg för att skanna enorma mängder sociala mediedata, skicka varningar till föräldrar eller nätverksadministratörer om att missbruk har inträffat.

Det är raket snabbt, också:I nyligen publicerad forskning, gruppen rapporterade att deras tillvägagångssätt använder fem gånger mindre datorresurser än befintliga verktyg. Det är tillräckligt effektivt för att övervaka ett nätverk lika stort som Instagram för en blygsam investering i serverkraft, sade studiens medförfattare Richard Han.

"Reaktionen från sociala medier på falska nyheter har nyligen börjat öka, även om det tog allvarliga konsekvenser för att nå den punkten, sa Han, en docent vid institutionen för datavetenskap. "Reaktionen måste vara lika stark för nätmobbning."

Gruppen släppte också en gratis app för Android-telefoner som gör att föräldrar kan få varningar när deras barn är föremål för mobbning på Instagram. Studiens medförfattare Shivakant Mishra förklarade att appen, kallas BullyAlert, kan lära av och anpassa sig till vad föräldrar anser vara mobbning.

"Som förälder, Jag vet att vi många gånger inte har full kunskap om vad våra barn gör på sina sociala nätverk, sa Mishra, professor i datavetenskap. "En sådan här app som informerar oss när något problematiskt händer är ovärderlig."

För att bygga sin verktygslåda, CyberSafety-forskarna anställde först riktiga människor för att lära ett datorprogram hur man skiljer godartade onlinekommentarer från övergrepp.

Nästa, forskarna designade ett system som fungerar lite som sjukhustriage. När en användare laddar upp ett nytt inlägg, gruppens verktyg gör en snabb genomsökning av kommentarerna. Om dessa kommentarer ser tveksamma ut, då får den posten hög prioritet för att få ytterligare kontroller. Men om alla kommentarer verkar välgörande, sedan stöter systemet inlägget längst ner i kön.

"Vårt mål är att fokusera på de mest sårbara sessionerna, Han sa. "Vi fortsätter fortfarande att övervaka alla sessioner, men vi övervakar oftare de sessioner som vi tycker är mer problematiska."

Och det fungerar:Forskarna testade sin metod på verkliga data från Vine, en numera nedlagd videodelningsplattform, och Instagram. Han förklarade att teamet valde dessa nätverk eftersom de gör sin data tillgänglig för allmänheten.

I forskning som presenterades vid en konferens i april, gruppen beräknade att deras verktygsuppsättning kunde övervaka trafiken på Vine och Instagram i realtid, upptäcka nätmobbningsbeteende med 70 procents noggrannhet. Vad mer, tillvägagångssättet kan också skicka upp varningsflaggor inom två timmar efter uppkomsten av missbruk – en prestanda som inte motsvaras av för närvarande tillgänglig programvara.

Rahat Ibn Rafiq, en CU Boulder doktorand i datavetenskap, är huvudförfattaren till den nya studien. Andra medförfattare inkluderar CU Boulder docent Qin (Christine) Lv och Homa Hosseinmardi vid University of Southern California.