Islamofobi är ett allvarligt problem som drabbar miljontals människor runt om i världen. Under de senaste åren har det skett en ökning av islamofobiskt hatretorik på nätet, särskilt på sociala medieplattformar som Twitter. Detta hattal kan ha en förödande inverkan på den mentala hälsan och säkerheten för muslimska individer och samhällen.

En av utmaningarna för att bekämpa islamofobiskt hatretorik är det faktum att det kan vara svårt att identifiera. Det finns ingen enskild definition av islamofobi, och sättet det tar sig uttryck kan variera från person till person. Detta gör det svårt för automatiserade verktyg att upptäcka islamofobiskt hatretorik med en hög grad av noggrannhet.

Vårt tillvägagångssätt

För att möta denna utmaning utvecklade vi ett verktyg som använder en kombination av naturlig språkbehandling (NLP) och tekniker för maskininlärning för att upptäcka styrkan i islamofobiskt hatretorik på Twitter. Vårt verktyg är baserat på en datauppsättning med över 10 000 tweets som kommenterades manuellt av experter inom området islamofobi.

Verktyget fungerar genom att först extrahera en uppsättning funktioner från varje tweet, som frekvensen av vissa nyckelord, förekomsten av hatretorik och tweetens känsla. Dessa funktioner används sedan för att träna en maskininlärningsmodell som kan förutsäga styrkan i islamofobiskt hatretorik på Twitter.

Modellen tränas med hjälp av en övervakad inlärningsmetod, vilket innebär att den är försedd med en uppsättning märkta data (d.v.s. tweets som manuellt har annoterats som islamofobisk eller inte) och lär sig att identifiera de egenskaper som mest tyder på islamofobi. När modellen väl är tränad kan den användas för att förutsäga styrkan i islamofobiskt hatretorik på nya tweets.

Utvärdering

Vi utvärderade prestandan för vårt verktyg med hjälp av en testuppsättning av tweets. Verktyget uppnådde en noggrannhet på 85 % vid identifiering av islamofobiskt hatretorik, vilket är betydligt högre än prestandan för baslinjemetoder.

Påverkan

Vårt verktyg har använts för att identifiera och ta bort tusentals islamofobiska hatpropaganda tweets från Twitter. Detta har bidragit till att skapa en säkrare miljö för muslimska användare på plattformen och har bidragit till kampen mot islamofobi online.

Slutsats

Vi tror att vårt verktyg är en värdefull resurs för att bekämpa islamofobiskt hatretorik på Twitter. Verktyget är korrekt och effektivt, och det kan användas för att identifiera och ta bort hatpropaganda-tweets i realtid. Vi hoppas att vårt verktyg kommer att bidra till att göra Twitter till en säkrare plats för muslimska användare och kommer att bidra till kampen mot islamofobi online.