En skärmdump från videon Inoculation Science som förklarar emotionell språkanvändning i desinformation. Kredit:Inokulationsvetenskap
Korta animationer som ger tittarna en smak av taktiken bakom desinformation kan hjälpa till att inokulera människor mot skadligt innehåll på sociala medier när de distribueras i YouTubes annonsplats, enligt ett stort onlineexperiment ledd av University of Cambridge.
I samarbete med Jigsaw, en enhet inom Google som är dedikerad till att ta itu med hot mot öppna samhällen, skapade ett team av psykologer från universiteten i Cambridge och Bristol 90 sekunder långa klipp utformade för att göra användarna bekanta med manipulationstekniker som syndabock och avsiktlig inkoherens.
Denna "pre-bunking"-strategi utsätter förebyggande människor för troper som är roten till skadlig propaganda, så att de bättre kan identifiera falskheter online oavsett ämne.
Forskarna bakom projektet Inoculation Science jämför det med ett vaccin:genom att ge människor en "mikrodos" av desinformation i förväg hjälper det till att förhindra att de faller för det i framtiden - en idé som bygger på vad socialpsykologer kallar "inokulationsteori".
Resultaten, publicerade i Science Advances , kommer från sju experiment som involverade totalt nästan 30 000 deltagare – inklusive den första "verkliga fältstudien" av inokuleringsteori på en social mediaplattform – och visar att en enda visning av ett filmklipp ökar medvetenheten om desinformation.
Videorna introducerar koncept från "spelboken för felaktig information", illustrerad med relaterade exempel från film och TV som Family Guy eller, i fallet med falska dikotomier, Star Wars ("Only a Sith handlar om absoluta värden").
"YouTube har över 2 miljarder aktiva användare över hela världen. Våra videor kan enkelt bäddas in i annonsutrymmet på YouTube för att prebunka felaktig information", säger studiens medförfattare Prof Sander van der Linden, chef för Social Decision-Making Lab (SDML) vid Cambridge, som ledde arbetet.
"Vår forskning ger det nödvändiga beviset på att principen om psykologisk inokulering lätt kan skalas över hundratals miljoner användare över hela världen."
Huvudförfattaren Dr. Jon Roozenbeek från Cambridges SDML beskriver teamets videor som "källagnostiska", och undviker fördomar som människor har om var informationen kommer ifrån och hur den hänger ihop – eller inte – med vad de redan tror.
"Våra ingripanden gör inga påståenden om vad som är sant eller ett faktum, vilket ofta ifrågasätts. De är effektiva för alla som inte uppskattar att bli manipulerade", sa han.
"Ympningseffekten var konsekvent mellan liberaler och konservativa. Den fungerade för människor med olika utbildningsnivåer och olika personlighetstyper. Detta är grunden för en allmän inokulering mot desinformation."
Google – YouTubes moderbolag – utnyttjar redan resultaten. I slutet av augusti kommer Jigsaw att rulla ut en prebunking-kampanj på flera plattformar i Polen, Slovakien och Tjeckien för att komma före ny desinformation om ukrainska flyktingar. Kampanjen är utformad för att bygga upp motståndskraft mot skadliga anti-flyktingberättelser, i samarbete med lokala icke-statliga organisationer, faktagranskare, akademiker och experter på desinformation.
"Skadlig desinformation tar sig många former, men den manipulativa taktiken och berättelserna upprepas ofta och kan därför förutsägas", säger Beth Goldberg, medförfattare och chef för forskning och utveckling för Googles Jigsaw-enhet.
"Att lära människor om tekniker som ad-hominem-attacker som syftar till att manipulera dem kan hjälpa till att bygga motståndskraft mot att tro och sprida desinformation i framtiden.
"Vi har visat att videoannonser som en leveransmetod för prebunking av meddelanden kan användas för att nå miljontals människor, potentiellt innan skadliga berättelser får fäste", sa Goldberg.
Teamet hävdar att pre-bunking kan vara effektivare för att bekämpa desinformationsfloden än att faktakontrollera varje osanning efter att den har spridit sig – den klassiska "debunken" – vilket är omöjligt att göra i stor skala och kan förankra konspirationsteorier genom att kännas som personliga attacker till dem som tror på dem.
"Propaganda, lögner och missvisningar skapas nästan alltid från samma spelbok", säger medförfattaren Prof Stephan Lewandowsky från University of Bristol. "Vi utvecklade videorna genom att analysera retoriken hos demagoger, som sysslar med syndabockar och falska dikotomier."
En skärmdump från videon Inoculation Science som förklarar användningen av syndabock i desinformation. Kredit:Inokulationsvetenskap
"Faktagranskare kan bara motbevisa en bråkdel av de falskheter som cirkulerar online. Vi måste lära människor att känna igen spelboken med felaktig information, så att de förstår när de blir vilseledda."
Sex initiala kontrollerade experiment innehöll 6 464 deltagare, med det sjätte experimentet som genomfördes ett år efter de första fem för att säkerställa att tidigare fynd kunde replikeras.
Datainsamlingen för varje deltagare var omfattande, från grundläggande information – kön, ålder, utbildning, politiska lutningar – till nivåer av räknekunskap, konspiratoriskt tänkande, nyheter och kontroll av sociala medier, "receptivitet för bullshit" och en personlighetsinventering, bland andra "variabler". "
Med hänsyn till allt detta fann teamet att inokuleringsvideor förbättrade människors förmåga att upptäcka felaktig information och ökade deras förtroende för att kunna göra det igen. Klippen förbättrar också kvaliteten på "delningsbeslut":huruvida skadligt innehåll ska spridas eller inte.
En skärmdump från videon Inoculation Science som förklarar användningen av känslomässigt språk i desinformation. Kredit:Inokulationsvetenskap
Två av animationerna testades sedan "i det vilda" som en del av ett stort experiment på YouTube, med klipp placerade i annonsplatsen före video som ger en möjlighet att hoppa över efter fem sekunder.
Google Jigsaw exponerade cirka 5,4 miljoner amerikanska YouTubers för en inokuleringsvideo, där nästan en miljon tittade i minst 30 sekunder. Plattformen gav sedan slumpmässiga 30 % av användarna som tittade på en frivillig testfråga inom 24 timmar efter deras första visning.
Klippen syftade till att inokulera mot desinformationstaktik av hyperemotiv språk och användning av falska dikotomier, och frågorna – baserade på fiktiva inlägg – testades för upptäckt av dessa troper. YouTube gav också en "kontroll" grupp användare som inte hade sett en video samma testfråga. Totalt svarade 22 632 användare på en fråga.
Trots det intensiva "bruset" och distraktionerna på YouTube ökade förmågan att känna igen manipulationstekniker i hjärtat av desinformation med 5 % i genomsnitt.
Google säger att experimentets oöverträffade karaktär innebär att det inte finns någon direkt datajämförelse tillgänglig. Ökningen av varumärkesmedvetenheten från annonsering på YouTube – känd som "varumärkeslyft" – är dock vanligtvis begränsad till 1 % i undersökningar av under 45 000 användare.
"Användare deltog i tester cirka 18 timmar i genomsnitt efter att ha sett videorna, så inokuleringen verkar ha fastnat", sa van der Linden.
Forskare säger att en sådan ökning av erkännandet kan förändra spelet om den skalas upp dramatiskt över sociala plattformar - något som skulle vara billigt att göra. Den genomsnittliga kostnaden för varje vy av betydande längd var den lilla summan av 0,05 USD.
Lade till Roozenbeek:"Om någon vill betala för en YouTube-kampanj som mätbart minskar känsligheten för desinformation hos miljontals användare, kan de göra det, och till en minimal kostnad per visning."
De sex första experimenten
De första sex kontrollerade experimenten innebar att varje deltagare slumpmässigt tilldelades en 90-sekunders "inokuleringsvideo" eller en neutral kontrollvideo. Deltagarna visades sedan slumpmässigt tio inlägg på sociala medier:fem med avsiktligt manipulerande tekniker (även om alla inte visade bevisade falskheter) och fem neutrala inlägg. Deltagarna ombads att rangordna nivåerna av förtroende för informationen, i vilken grad de upplever att den är manipulativ och hur sannolikt det är att de delar den.
Resultaten inkluderar:
YouTube-experiment
YouTubes inokuleringsannonskampanj pågick under femton dagar i [YEAR] och riktade sig till engelsktalande användare i USA som var 18 år eller äldre och hade sett minst en politisk video eller nyhetsvideo på plattformen.
Totalt svarade 22 632 deltagare på en testfråga på YouTube:11 432 som hade sett en inokuleringsvideo och 11 200 som inte hade sett det.
Exempelfrågor som presenteras av YouTube:
