Trakasserier har blivit allestädes närvarande på sociala medier och i onlinevärlden - Twitter har varit under eld för hur det hanterar trakasserier, YouTubes trendalgoritm har ibland främjat stötande videor, och att rapportera övergrepp på Instagram är fortfarande ganska svårt.

Medan nuvarande verktyg för trakasserier som att blockera användare eller filtrering av utlösande ord delvis hjälper, mycket misshandel online är så subtil att en algoritm ensam kanske inte uppfattar olika ledtrådar.

Men tänk om folk faktiskt kunde utnyttja sina vänner för att moderera sina konton och skydda dem från kränkande meddelanden?

Ett team från MIT:s Computer Science and Artificial Intelligence Laboratory (CSAIL) använder det tillvägagångssättet med "Squadbox", ett nytt crowdsourcing-verktyg som gör det möjligt för människor som har blivit utsatta för trakasserier att samordna "grupper" av vänner för att filtrera meddelanden och stödja dem under attacker.

Teamet intervjuade en rad forskare, aktivister, och Youtube-personligheter, och upptäckte att många människor som trakasseras via e-post förlitar sig på vänner och familj för att skydda sig från kränkande meddelanden.

Senior författare och MIT-professor David Karger säger att Squadbox syftar till att göra denna så kallade "friend-sourcing" mer effektiv och mindre arbete för sina moderatorer.

"Om du bara ger moderatorer nycklarna till din inkorg, hur vet moderatorn när det finns ett e-postmeddelande att moderera, och vilken e-post har redan hanterats av andra moderatorer?" säger Karger. "Squadbox låter användare anpassa hur inkommande e-post hanteras, dela upp arbetet för att se till att det inte finns några dubbelarbete."

Karger skrev den nya uppsatsen med doktoranden Amy Zhang och tidigare MIT-student och nuvarande mjukvaruingenjör Kaitlin Mahar. Teamet kommer att presentera arbetet i april på ACM:s CHI-konferens om mänskliga faktorer i datorsystem i Montreal, Kanada.

Moderering av "vänkälla".

Med Squadbox, "ägaren" av truppen kan sätta upp filter för att automatiskt vidarebefordra inkommande innehåll till dess modereringspipeline. När ett mejl kommer, en moderator bestämmer vilka e-postmeddelanden som är trakasserier, och som kan skickas tillbaka till personens inkorg.

Till exempel, låt oss säga att en journalist vill ha en offentlig e-postadress för att få nyhetstips, men är rädd för att ha en på grund av hur ofta hon blir trakasserad av människor som inte håller med om hennes rapportering. Hon kunde skapa ett Squadbox-konto med två nära kollegor som moderatorer, och sedan använda hennes konto var hon vill dela sin e-postadress. Alla e-postmeddelanden hon får på den adressen går först genom hennes lag.

"Tidigare lösningar berodde helt på automatiserade tekniker, eller var alltför beroende av sociala lösningar som att helt enkelt ge sin kontoinformation till en vän, " säger Clifford Lampe, professor i information vid University of Michigan. "Denna arbetslinje hjälper till att tillhandahålla en karta för en hybridlösning för trakasserier som förstärker mänskligt stöd med verktyg på ett meningsfullt sätt."

Medan teamet planerar att utöka kapaciteten hos Squadbox för att arbeta med sociala medieplattformar, de säger att e-post är ett särskilt användbart system för att studera trakasserier.

"Det som är intressant med e-post är att det inte är öppet som Twitter eller Facebook, " säger Karger. "Det betyder att trakasserare kan känna sig mindre ansvariga eftersom deras kommentarer inte är offentliga."

Squadbox låter också användare skapa "vitlistor" och "svarta listor" över avsändare vars e-postmeddelanden automatiskt kommer att godkännas eller avvisas utan moderering. Användare kan också inaktivera och återaktivera systemet, läs poäng om meddelandens toxicitet, och till och med svara på trakasserare.

"Trakasserier är en inneboende känsla av maktlöshet, och att ge överlevande alternativ gör att de kan återgå till kontrollen, säger Emily May, medgrundare och verkställande direktör för det globala antitrakasseringsinitiativet Hollaback! "Squadbox är designad för att inte bara påminna folk om att de har gemenskap runt sig, men för att aktivera den gemenskapen för deras räkning."

Teamet utvärderade Squadbox på fem kompispar, och fann att användning av vänner hjälpte mot rädsla för integritet och möjliggjorde mer skräddarsydda beslut för offren. Dock, användare är fortfarande oroliga för att en vän kan vara känslig för långsamma svarstider, och att systemet också kan "sprida" bördan. Teamet säger att att ha flera moderatorer skulle kunna hjälpa det här problemet.

"Squadbox erbjuder ett konkret stödsystem för människor som trakasseras online genom att använda andra människor, " säger May. "Vi måste ge överlevande tillbaka kontrollen och skapa samhällen som är starka nog att deklarera:det här är inte internet vi vill ha. Det är inte världen vi vill ha. Och vi kommer inte att stå för det längre."