Onlinehat frodas globalt genom självorganiserad, skalbara kluster som sammankopplas för att bilda motståndskraftiga nätverk spridda över flera sociala medieplattformar, länder och språk, enligt ny forskning publicerad i dag i tidskriften Natur . Forskare vid George Washington University utvecklade en kartläggningsmodell, den första i sitt slag, för att spåra hur dessa onlinehatkluster frodas. De tror att det kan hjälpa sociala medieplattformar och brottsbekämpande myndigheter i kampen mot hat online.

Med explosionen av sociala medier, individer kan få kontakt med andra likasinnade på bara några få klick. Kluster av personer med gemensamma intressen bildas lätt och enkelt. Nyligen, hatideologier på nätet och extremistiska berättelser har kopplats till en ökning av brott runt om i världen. För att motverka detta, forskare ledda av Neil Johnson, professor i fysik vid GW, för att bättre förstå hur onlinehat utvecklas och om det kan stoppas.

"Hat förstör liv, inte bara som vi har sett i El Paso, Orlando och Nya Zeeland, men psykologiskt genom onlinemobbning och retorik, "Dr. Johnson sa. "Vi satte oss för att komma till botten med onlinehat genom att titta på varför det är så motståndskraftigt och hur det kan hanteras bättre. Istället för att älska att vara i luften, vi fann att hat finns i etern."

För att förstå hur hat utvecklas på nätet, teamet började med att kartlägga hur kluster kopplas samman för att sprida sina berättelser och attrahera nya rekryter. Fokus på sociala medieplattformar Facebook och dess centraleuropeiska motsvarighet, VKontakte, forskarna började med ett givet hatkluster och tittade utåt för att hitta ett andra som var starkt kopplat till originalet. De upptäckte att hat överskrider gränserna för specifika internetplattformar, inklusive Instagram, Snapchat och WhatsApp; geografisk plats, inklusive USA, Sydafrika och delar av Europa; och språk, inklusive engelska och ryska.

Forskarna såg kluster skapa nya anpassningsstrategier för att omgruppera på andra plattformar och/eller komma in på en plattform igen efter att ha blivit förbjudna. Till exempel, kluster kan migrera och rekonstruera på andra plattformar eller använda olika språk för att undvika upptäckt. Detta gör att klustret snabbt kan ta tillbaka tusentals supportrar till en plattform där de har förbjudits och understryker behovet av plattformsoberoende samarbete för att begränsa hatgrupper online.

"Analogin är oavsett hur mycket ogräsdödare du placerar på en trädgård, problemet kommer tillbaka, potentiellt mer aggressivt. I onlinevärlden, alla gårdar i grannskapet är sammankopplade på ett mycket komplext sätt - nästan som maskhål. Det är därför enskilda sociala medieplattformar som Facebook behöver ny analys som vår för att ta reda på nya tillvägagångssätt för att driva dem före kurvan, " sa Dr. Johnson.

Laget, som inkluderade forskare vid University of Miami, använde insikter från sin hatkartläggning online för att utveckla fyra interventionsstrategier som sociala medieplattformar omedelbart skulle kunna implementera baserat på situationella omständigheter:

• Minska kraften och antalet stora kluster genom att förbjuda de mindre klustren som matas in i dem.
• Attackera akilleshälen av hatgrupper på nätet genom att slumpmässigt förbjuda en liten del av enskilda användare för att få det globala klusternätverket att falla en del.
• Ställ stora kluster mot varandra genom att hjälpa antihatkluster att hitta och engagera sig direkt med hatkluster.
• Skapa mellanliggande kluster som engagerar hatgrupper för att hjälpa till att lyfta fram skillnaderna i ideologier mellan dem och få dem att börja ifrågasätta sin hållning.

Forskarna noterade att var och en av deras strategier kan antas på en global skala och samtidigt över alla plattformar utan att behöva dela känslig information från enskilda användare eller kommersiella hemligheter, som varit en stötesten tidigare.

Genom att använda denna karta och dess matematiska modellering som grund, Dr. Johnson och hans team utvecklar programvara som kan hjälpa tillsynsmyndigheter och tillsynsmyndigheter att implementera nya ingripanden.