Sedan lanseringen av covid-19-vaccinet 2021 har falska nyheter på sociala medier fått stor skuld för lågt vaccinupptag i USA – men forskning av MIT Sloan School of Management Ph.D. kandidaten Jennifer Allen och professor David Rand finner att skulden ligger någon annanstans.
I en ny artikel publicerad i Science och medförfattare av Duncan J. Watts från University of Pennsylvania, forskarna introducerar en ny metod för att mäta sociala medieinnehålls kausala inverkan i stor skala. De visar att vilseledande innehåll från vanliga nyhetskällor – snarare än direkt desinformation eller "falska nyheter" – var den främsta orsaken till vaccinationstveksamhet på Facebook.
"Desinformation har korrelerats med många samhälleliga utmaningar, men det finns inte mycket forskning som visar att exponering för desinformation faktiskt orsakar skada", förklarade Allen.
Under covid-19-pandemin, till exempel, fick spridningen av desinformation relaterad till viruset och vaccinet stor offentlig uppmärksamhet. Befintlig forskning har dock för det mesta bara fastställt samband mellan vaccinationsvägran och faktorer som att dela desinformation online – och till stor del förbisett rollen av "vaccinskeptiskt" innehåll, som potentiellt var vilseledande men inte flaggats som desinformation av Facebook. -pjäser.
För att komma till rätta med denna lucka ställde forskarna först en nyckelfråga:Vad skulle behövas för att felaktig information eller någon annan typ av innehåll skulle få långtgående effekter?
"För att ändra beteende i stor skala måste innehållet inte bara vara tillräckligt övertygande för att övertyga människor att inte få vaccinet, utan också ses allmänt," sa Allen. "Potentiell skada beror på kombinationen av övertalning och exponering."
För att kvantifiera innehållets övertygande förmåga, genomförde forskarna randomiserade experiment där de visade tusentals undersökningsdeltagare rubrikerna från 130 vaccinrelaterade berättelser – inklusive både mainstream-innehåll och känd desinformation – och testade hur dessa rubriker påverkade deras avsikter att vaccinera sig mot covid- 19.
Forskare bad också en separat grupp respondenter att betygsätta rubrikerna över olika attribut, inklusive rimlighet och politisk lutning. En faktor förutspådde på ett tillförlitligt sätt effekter på vaccinationsavsikter:i vilken utsträckning en rubrik antydde att vaccinet var skadligt för en persons hälsa.
Med hjälp av "massornas visdom" och naturliga språkbearbetande AI-verktyg, extrapolerade Allen och hennes medförfattare dessa undersökningsresultat för att förutsäga övertygandekraften hos alla 13 206 vaccinrelaterade webbadresser som sågs allmänt på Facebook under de första tre månaderna av vaccinet utrullning.
Genom att kombinera dessa förutsägelser med data från Facebook som visar antalet användare som tittade på varje webbadress, kunde forskarna förutsäga varje rubriks övergripande inverkan – antalet personer som den kan ha övertalat att inte få vaccinet. Resultaten var överraskande.
Tvärtemot vad många tror, uppskattade forskarna att vaccin-skeptiskt innehåll minskade vaccinationsavsikterna 46 gånger mer än felaktig information som flaggats av faktagranskare.
Anledningen? Även om flaggad desinformation var mer skadlig när den sågs, hade den relativt låg räckvidd. Totalt fick de vaccinrelaterade rubrikerna i Facebook-datauppsättningen 2,7 miljarder visningar – men innehåll som flaggats som felaktig information fick bara 0,3 % av dessa visningar, och innehåll från domäner med låg trovärdighet fick 5,1 %.
"Även om det fullständigt falska innehållet minskade vaccinationsavsikterna mest när de sågs, var det jämförelsevis få som såg det", förklarade Rand. "I huvudsak betyder det att det finns den här typen av gråzonsinnehåll som är mindre skadligt per exponering men som ses mycket oftare - och därmed mer genomgripande överlag - som till stor del har förbisetts av både akademiker och sociala medieföretag."
Noterbart var att flera av de mest effektfulla webbadresserna i datamängden var artiklar från vanliga källor som tvivlade på vaccinets säkerhet. Den mest visade artikeln var till exempel en artikel – från en välrenommerad nyhetskälla – som antydde att en läkare dog två veckor efter att ha fått covid-19-vaccinet. Denna enstaka rubrik fick 54,9 miljoner visningar – mer än sex gånger så många visningar som all flaggad felaktig information.
Även om brödtexten i denna artikel erkände osäkerheten kring läkarens dödsorsak, var rubriken "clickbait" mycket suggestiv och antydde att vaccinet troligen var ansvarigt. Det är viktigt eftersom de allra flesta tittare på sociala medier sannolikt aldrig klickar ut för att läsa förbi rubriken.
Enligt Rand är en implikation av detta arbete att media måste vara mer försiktiga med sina rubriker, även om det betyder att de inte är lika uppmärksammade.
"När du skriver en rubrik bör du inte bara fråga dig själv om den är falsk eller inte," sa han. "Du bör fråga dig själv om rubriken sannolikt kommer att orsaka felaktiga uppfattningar."
När det gäller plattformar, tillade Allen, pekar forskningen också på behovet av mer nyanserad moderering – inom alla ämnen, inte bara för folkhälsa.
"Innehållsmoderering fokuserar på att identifiera den mest extremt falska informationen - men det kanske inte är ett effektivt sätt att identifiera det mest övergripande skadliga innehållet", säger hon. "Plattformar bör också prioritera granskning av innehåll från personer eller organisationer med det största antalet följare samtidigt som yttrandefriheten balanseras. Vi måste investera i mer forskning och kreativa lösningar i det här utrymmet – till exempel crowdsourcade-modereringsverktyg som X:s Community Notes."
"Beslut om innehållsmoderering kan vara riktigt svåra på grund av den inneboende spänningen mellan att vilja mildra skada och att låta människor uttrycka sig", sa Rand. "Vårt dokument introducerar ett ramverk för att hjälpa till att balansera denna avvägning genom att tillåta teknikföretag att faktiskt kvantifiera potentiell skada."
Och avvägningarna kan vara stora. En utforskande analys av författarna fann att om Facebook-användare inte hade exponerats för detta vaccinskeptiska innehåll, kunde så många som 3 miljoner fler amerikaner ha blivit vaccinerade.
"Vi kan inte bara ignorera detta gråområdesinnehåll," avslutade Allen. "Liv kunde ha räddats."
