Uppkomsten av hatretorik online är en oroande, växande trend i länder runt om i världen, med allvarliga psykologiska konsekvenser och potential att påverka, och till och med bidra till verkligt våld. Medborgarskapat mottal kan hjälpa till att avskräcka hatisk onlineretorik, men det har varit svårt att kvantifiera och studera. Tills nyligen, studier har begränsats till småskalig, handmärkta strävanden.

Ett nytt dokument som publicerades under konferensen 2020 om empiriska metoder i naturlig språkbehandling (EMNLP) erbjuder ett ramverk för att studera dynamiken i onlinehat och mottal. Tidningen erbjuder den första storskaliga klassificeringen av miljontals sådana interaktioner på Twitter. Författarna utvecklade en inlärningsalgoritm för att bedöma data från en unik situation på tyska Twitter, och resultaten tyder på att organiserade rörelser för att motverka hatretorik på sociala medier är mer effektiva än individer som slår ut på egen hand.

Författarna kommer att presentera sin uppsats, "Att motverka hat på sociala medier:Storskaliga klassificeringar av hat och motord" under den 20 november, 2020, Workshop om onlinemissbruk och skador, som körs i samband med EMNLP 2020.

"Jag har sett denna stora förändring i den civila diskursen de senaste två eller tre åren mot att vara mycket mer hatisk och mycket mer polariserad, " säger Joshua Garland, en matematiker och Applied Complexity Fellow vid Santa Fe Institute. "Så, för mig, en intressant fråga var:vad är ett lämpligt svar när du blir mobbad på nätet eller när du får hatretorik på nätet? Svarar du? Försöker du få dina vänner att hjälpa till att skydda dig? Blockerar du bara personen?"

För att studera sådana frågor vetenskapligt, forskare måste först ha tillgång till en mängd verkliga data om både hatretorik och mottal, och förmågan att skilja mellan de två. Dessa uppgifter fanns, och Garland och samarbetspartnern Keyan Ghazi-Zahedi vid Max Planck-institutet i Tyskland fann det i en femårig interaktion som utspelade sig över tyska Twitter:När en alt-höger-grupp tog till plattformen med hatretorik, en organiserad rörelse reste sig för att motverka det.

"Det fina med dessa två grupper är att de var självmärkta, " förklarar Mirta Galesic, lagets samhällsvetare och professor i mänsklig social dynamik vid SFI. Hon säger att forskare som studerar mottal vanligtvis måste anställa hundratals studenter för att handkoda tusentals inlägg. Men Garland och Ghazi-Zahedi kunde mata in de självmärkta inläggen i en maskininlärningsalgoritm för att automatisera stora delar av klassificeringen. Teamet förlitade sig också på 20-30 mänskliga kodare för att kontrollera att maskinklassificeringarna stämde överens med intuitionen om vad som registreras som hat och motord.

Resultatet var en datauppsättning av aldrig tidigare skådad storlek som gör det möjligt för forskarna att analysera inte bara isolerade fall av hat- och mottal, men jämför också långvariga interaktioner mellan de två.

Teamet samlade en datauppsättning med miljontals tweets som postats av medlemmar i de två grupperna, använder dessa självidentifierade tweets för att träna sin klassificeringsalgoritm för att känna igen hat- och mottal. Sedan, de använde sin algoritm för att studera dynamiken hos cirka 200, 000 konversationer som ägde rum mellan 2013 och 2018. Författarna planerar att snart publicera ett uppföljningsdokument som analyserar dynamiken som avslöjas av deras algoritm.

"Nu kan vi lösa en massiv datauppsättning från 2016 till 2018 för att se hur andelen hat och mottal förändrades över tiden, vem får fler likes, vem retweetas, och hur de svarade varandra" säger Galesic.

Mängden data, en enorm välsignelse, gör det också "otroligt komplext, " Garland noterar. Forskarna är i färd med att jämföra taktik för båda grupperna och förfölja bredare frågor som om vissa mottalsstrategier är mer effektiva än andra.

"Vad jag hoppas är att vi kan komma med en rigorös social teori som talar om för människor hur man kan motverka hat på ett produktivt sätt som inte är polariserande, "Girland säger, "och föra tillbaka Internet till civil diskurs."