Antisemitiska incidenter har visat en kraftig ökning i USA. Anti-Defamation League, en New York-baserad judisk medborgarrättsgrupp som har spårat fall sedan 1979, fann att det inträffade 2 717 incidenter 2021. Detta motsvarar en ökning med 34 % jämfört med 2020. I Europa fann Europeiska kommissionen en en sjufaldig ökning av antisemitiska inlägg över franska konton, och en över trettonfaldig ökning av antisemitiska kommentarer inom tyska kanaler under pandemin.

Tillsammans med andra forskare som studerar antisemitism började vi titta på hur teknologin och affärsmodellen för de sociala medieplattformarna drev antisemitism. En bok från 2022 som vi samredigerade, "Antisemitism on Social Media", erbjuder perspektiv från USA, Tyskland, Danmark, Israel, Indien, Storbritannien och Sverige på hur algoritmer på Facebook, Twitter, TikTok och YouTube bidrar till att sprida antisemitism.

Hur ser antisemitism på sociala medier ut?

Hat mot judar på sociala medier uttrycks ofta i stereotypa skildringar av judar som härrör från nazistisk propaganda eller i förnekelse av Förintelsen.

Antisemitiska inlägg på sociala medier uttrycker också hat mot judar som bygger på föreställningen att alla judar är sionister – det vill säga de är en del av den nationella rörelsen som stödjer Israel som en judisk stat – och sionismen är konstruerad som medfödd ond.

Men dagens antisemitism är inte bara riktad mot israeler, och den tar inte alltid formen av traditionella slagord eller hatretorik. Samtida antisemitism yttrar sig i olika former som GIF, memes, vloggar, kommentarer och reaktioner som gillar och ogillar på plattformarna.

Forskaren Sophie Schmalenberger fann att antisemitism inte bara uttrycks i trubbigt, sårande språk och bilder på sociala medier, utan också i kodade former som lätt kan förbli oupptäckta. På Facebook utelämnar till exempel Tysklands radikala högerparti Alternative für Deutschland, eller AfD, att nämna Förintelsen i inlägg om andra världskriget. Den använder också antisemitiskt språk och retorik som framställer antisemitism som acceptabelt.

Antisemitism kan anta subtila former som i emojis. Emoji-kombinationen av en davidsstjärna, en judisk symbol och en råtta liknar den nazistiska propagandan som liknar judar vid ohyra. I Nazityskland ledde den ständiga upprepningen och normaliseringen av sådana skildringar till avhumanisering av judar och så småningom acceptans av folkmord.

Andra former av antisemitism på sociala medier är antisemitiska trollattacker:Användare organiserar sig för att störa onlineevenemang genom att översvämma dem med meddelanden som förnekar Förintelsen eller sprider konspirationsmyter som QAnon gör.

Forskarna Gabi Weimann och Natalie Masri har studerat TikTok. De fann att barn och unga vuxna är särskilt i fara att utsättas, ofta omedvetet, för antisemitism på den mycket populära och snabbt växande plattformen, som redan har över 1 miljard användare världen över. En del av innehållet som läggs upp kombinerar klipp från Nazityskland med ny text som förringar eller gör narr av förintelsens offer.

Den kontinuerliga exponeringen för antisemitiskt innehåll i ung ålder, säger forskare, kan leda till både normalisering av innehållet och radikalisering av Tik-Tok-tittaren.

Algoritmisk antisemitism

Antisemitism drivs av algoritmer, som är programmerade att registrera engagemang. Detta säkerställer att ju mer engagemang ett inlägg får, desto fler användare ser det. Engagemang inkluderar alla reaktioner som gilla- och ogilla-, delningar och kommentarer, inklusive motkommentarer. Problemet är att reaktioner på inlägg också utlöser givande dopaminträffar hos användare. Eftersom upprörande innehåll skapar mest engagemang känner sig användare mer uppmuntrade att lägga upp hatiskt innehåll.

Men även användare av sociala medier som postar kritiska kommentarer om hatiskt innehåll inser inte att de på grund av hur algoritmer fungerar, slutar med att de bidrar till dess spridning.

Forskning om videorekommendationer på YouTube visar också hur algoritmer gradvis leder användare till mer radikalt innehåll. Algoritmisk antisemitism är alltså en form av vad kriminologen Matthew Williams kallar "algoritmiskt hat" i sin bok "The Science of Hate".

Vad kan man göra åt det?

För att bekämpa antisemitism på sociala medier måste strategier vara evidensbaserade. Men varken sociala medieföretag eller forskare har ägnat tillräckligt mycket tid och resurser åt denna fråga hittills.

Studiet av antisemitism på sociala medier ställer unika utmaningar för forskare:De behöver tillgång till data och finansiering för att kunna hjälpa till att utveckla effektiva motstrategier. Än så länge är forskare beroende av de sociala medieföretagens samarbete för att få tillgång till data, som till största delen är oreglerad.

Sociala medieföretag har implementerat riktlinjer för att rapportera antisemitism på sociala medier, och civilsamhällets organisationer har krävt åtgärder mot algoritmisk antisemitism. De åtgärder som vidtagits hittills är dock bedrövligt otillräckliga, om inte farliga. Mottal, som ofta främjas som en möjlig strategi, tenderar till exempel att förstärka hatiskt innehåll.

För att på ett meningsfullt sätt ta itu med antisemitiskt hatretorik skulle sociala medieföretag behöva ändra algoritmerna som samlar in och kurerar användardata för reklamföretag, som utgör en stor del av deras intäkter.

Det sker en global, gränslös spridning av antisemitiska inlägg på sociala medier i en aldrig tidigare skådad omfattning. Vi tror att det kommer att kräva gemensamma ansträngningar från sociala medieföretag, forskare och civilsamhället för att bekämpa detta problem. + Utforska vidare

Hur sociala medier underblåser antisemitism

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.