Vi lever i djupt ojämlika samhällen där vissa grupper, som rasistiska och sexuella minoriteter, fortsätter att uppleva strukturellt förtryck. Humor riktad mot dessa grupper kan orsaka individuell skada genom dess kumulativa effekter och också bidra till bredare sociala skador.

Mycket av vår sociala interaktion idag sker online. Så det är vettigt att stor uppmärksamhet ägnas åt frågor som hatretorik på nätet, trakasserier och desinformation.

Ett mer utmanande problem är dock beteendet hos användare som inte nödvändigtvis försöker att skada andra, men ändå delta online på ett sätt som kan göra det. TikTok-användare har till exempel deltagit i virala parodiutmaningar som bagatelliserar polisbrutalitet, våld i hemmet och till och med förintelsen.

Covid-19 hälsokrisen drev digitala plattformar för att stävja spridningen av desinformation, men det verkar som om de gjorde mindre för att minimera anti-asiatiskt innehåll – trots tecken på att pandemin "rasifierades".

I vår forskning undersökte vi hur den "humoristiska" rasistiska stereotypiseringen av människor av asiatisk härkomst uppstod på TikTok under pandemin, och hur sådant beteende bör hanteras.

TikTok och rashumor

TikTok har blivit enormt populärt i generationer. Dess "använd detta ljud"-funktion tillåter användare att remixa ljud från andra videor, vilket gör det till en unik plattform för att studera rasistiska stereotyper.

För vår forskning samlade vi in ​​TikTok-videor som publicerades från januari till juni 2020, med hashtaggen #coronavirus och andra hashtaggar som är relevanta för vår forskning (som "#asian" och "#funny", till exempel).

Vi inkluderade också videor taggade med nyckelord relaterade till Kina (#china, #chinacoronavirus, #wuhan) och med #Australia, för att potentiellt samla in exempel från landet (som har en historia av anti-asiatisk rasism).

När vi tog bort dubbletter, otillgängliga videor och videor på ett annat språk än engelska, fick vi en datauppsättning med 639 TikTok-videor. Efter att ha noggrant analyserat dessa hittade vi 93 videor som visade exempel på rasistisk humor.

"Gula fara"-memes

Bland videorna fanns "gul fara" memes. Dessa handlade om människor eller föremål som "kontaminerades" med coronavirus i förlängningen av deras koppling till Kina eller andra asiatiska länder. Den "gula faran"-tropen avhumaniserar människor från asiatiska länder genom att framställa dem som ett hot mot västländer.

Tre typer av "gula fara"-memes noterades i vårt prov:

1. memes som riktar sig till personer med asiatisk härkomst som orsaken till spridningen av coronaviruset
2. memes där människor reagerar med skräck eller avsky när de tar emot paket eller varor från Kina
3. memes som skyller coronaviruset på metoder som att äta vilda djur.

"Digital yellowface"-parodier

Vi hittade också en form av "digital yellowface". I dessa videor använde användarna funktionen "använd det här ljudet" för att parodiera asiatiska accenter på engelska eller säga "asiatiska ord" genom att prata drygt, eller ord som "Subaru" (det japanska bilmärket) på ett överdrivet sätt.

Vissa användare dramatiserade sitt ansikte för att ytterligare förkroppsliga den kränkande karikatyr de försökte skildra.

Forskare som forskar om rasistiska stereotyper på nätet har varnat för att "vissa dialekter, röstomfång och folkspråk anses vara bullriga, olämpliga eller hyperemotionella i samband med svärta."

Under COVID-19 tillägnade icke-asiatiska användare "asiatiska ljud" på TikTok på liknande sätt. De framställde människor av asiatisk härkomst som irrationella eller alltför känslomässiga, vilket reducerade en hel rasgrupp till en ren karikatyr.

Vad har TikTok gjort?

TikTok har gjort det möjligt för användare att frivilligt eller ovilligt bidra till rasistisk diskurs som avhumaniserade kineser och andra asiatiska människor under pandemins gång.

Vi hävdar inte att det finns ett direkt orsakssamband mellan denna rasistiska stereotypisering och det verkliga våldet. Men forskning har visat att att koppla en sjukdom till en historiskt marginaliserad grupp har omedelbara och långsiktiga negativa sociala effekter i samhällen.

Även om TikTok anslöt sig till Europeiska kommissionens uppförandekod för att motverka olagligt hattal online 2020, ger dess policyer fortfarande ingen detaljerad förklaring av när humor kan ha kapacitet att skada.

För att förbättra modereringen av skadlig humor kan TikTok modifiera sina community-riktlinjer och rapporteringsprocesser för att erkänna hur humor riktad mot historiskt marginaliserade grupper kan få allvarliga konsekvenser.

Detta skulle likna Facebooks utvidgning av sin policy för hatretorik 2020 till att inkludera skadliga stereotyper (som kom efter att plattformen rådfrågat med opinionsbildningsgrupper och experter).

TikToks moderering av rasifierad skadlig humor behöver inte nödvändigtvis medföra borttagningar och användarförbud. Det finns flera andra lösningar tillgängliga. Plattformen kunde:

• utbilda användare genom att tagga eller märka tvivelaktigt eller potentiellt skadligt innehåll
• minska innehållets synlighet genom algoritmisk degradering
• begränsa engagemangsfunktioner för "humoristiskt" innehåll som sannolikt orsakar skada.

En sak är säker:vi kan inte längre ursäkta rasism under sken av humor. Utöver individer har sociala medieplattformar ett ansvar att se till att de tar upp rasistisk humor, eftersom det kan och orsakar verklig skada. + Utforska vidare

När pandemiåtgärderna hävs har användningen av sociala medier minskat med undantag för TikTok

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.