Det är inte alls uppenbart att desinformation hittills har svängt ett val som annars skulle ha gått en annan väg. Men det finns en stark känsla av att det ändå har haft en betydande inverkan.
Eftersom AI nu används för att skapa mycket trovärdiga falska videor och för att sprida desinformation mer effektivt, gör vi rätt i att vara oroliga för att falska nyheter kan förändra valförloppet inom en inte alltför avlägsen framtid.
För att bedöma hotet och för att reagera på lämpligt sätt behöver vi en bättre uppfattning om hur skadligt problemet kan vara. Inom fysikaliska eller biologiska vetenskaper skulle vi testa en hypotes av detta slag genom att upprepa ett experiment många gånger.
Men detta är mycket svårare inom samhällsvetenskap eftersom det ofta inte är möjligt att upprepa experiment. Om du vill veta vilken effekt en viss strategi har på till exempel ett kommande val, kan du inte köra valet en miljon gånger för att jämföra vad som händer när strategin implementeras och när den inte implementeras.
Du kan kalla detta ett problem med en historia:det finns bara en historia att följa. Du kan inte varva ner klockan för att studera effekterna av kontrafaktiska scenarier.
För att övervinna denna svårighet blir en generativ modell praktisk eftersom den kan skapa många historier. En generativ modell är en matematisk modell för grundorsaken till en observerad händelse, tillsammans med en vägledande princip som talar om för dig på vilket sätt orsaken (indata) förvandlas till en observerad händelse (output).
Genom att modellera orsaken och tillämpa principen kan det generera många historier, och därmed statistik som behövs för att studera olika scenarier. Detta kan i sin tur användas för att bedöma effekterna av desinformation i val.
När det gäller en valkampanj är den primära orsaken den information som väljs har tillgång till (input), som omvandlas till rörelser av opinionsundersökningar som visar förändringar i väljarens avsikt (observerad produktion). Den vägledande principen handlar om hur människor behandlar information, vilket är att minimera osäkerheter.
Så genom att modellera hur väljarna får information kan vi simulera efterföljande utveckling på en dator. Vi kan med andra ord skapa en "möjlig historia" av hur opinionsmätningar förändras från och med nu till valdagen på en dator. Bara från en historia lär vi oss praktiskt taget ingenting, men nu kan vi köra simuleringen (det virtuella valet) en miljon gånger.
En generativ modell förutsäger inte någon framtida händelse på grund av informationens bullriga karaktär. Men det ger statistik över olika händelser, vilket är vad vi behöver.
Jag kom först på idén att använda en generativ modell för att studera effekten av desinformation för ungefär ett decennium sedan, utan någon förutseende om att konceptet tyvärr skulle bli så relevant för säkerheten i demokratiska processer. Mina initiala modeller var utformade för att studera effekten av desinformation på finansmarknaderna, men eftersom falska nyheter började bli mer av ett problem, utökade min kollega och jag modellen för att studera dess inverkan på val.
Generativa modeller kan berätta för oss sannolikheten att en given kandidat vinner ett framtida val, beroende på dagens data och specifikationen av hur information om frågor som är relevanta för valet kommuniceras till väljarna. Detta kan användas för att analysera hur sannolikheten att vinna kommer att påverkas om kandidater eller politiska partier ändrar sina politiska ståndpunkter eller kommunikationsstrategier.
Vi kan inkludera desinformation i modellen för att studera hur det kommer att förändra utfallsstatistiken. Här definieras desinformation som en dold komponent av information som genererar en bias.
Genom att inkludera desinformation i modellen och köra en simulering berättar resultatet väldigt lite om hur det förändrade opinionsundersökningar. Men genom att köra simuleringen många gånger kan vi använda statistiken för att bestämma den procentuella förändringen i sannolikheten för att en kandidat vinner ett framtida val om desinformation av en given storleksordning och frekvens är närvarande. Med andra ord kan vi nu mäta effekten av falska nyheter med hjälp av datorsimuleringar.
Jag bör betona att mätning av effekterna av falska nyheter skiljer sig från att göra förutsägelser om valresultat. Dessa modeller är inte utformade för att göra förutsägelser. Snarare tillhandahåller de statistik som är tillräcklig för att uppskatta effekten av desinformation.
En modell för desinformation som vi övervägde är en typ som släpps i något slumpmässigt ögonblick, växer i styrka under en kort period men sedan dämpas den (till exempel på grund av faktakontroll). Vi fann att ett enda släpp av sådan desinformation, långt före valdagen, kommer att ha liten inverkan på valresultatet.
Men om frisläppandet av sådan desinformation upprepas ihärdigt, kommer det att ha en inverkan. Desinformation som är partisk mot en given kandidat kommer att förskjuta omröstningen något till förmån för den kandidaten varje gång den släpps. Av alla valsimuleringar som den kandidaten har förlorat för kan vi identifiera hur många av dem som har resultatet vänt, baserat på en given frekvens och omfattning av desinformation.
Falska nyheter till förmån för en kandidat, förutom i sällsynta fall, garanterar inte en seger för den kandidaten. Dess effekter kan dock mätas i termer av sannolikheter och statistik. Hur mycket har falska nyheter förändrat vinstsannolikheten? Vad är sannolikheten att vända ett valresultat? Och så vidare.
Ett resultat som kom som en överraskning är att även om väljarna inte är medvetna om huruvida en viss information är sann eller falsk, om de känner till frekvensen och partiskheten av desinformation, så räcker detta för att eliminera det mesta av effekterna av desinformation. Blotta kunskapen om möjligheten av falska nyheter är redan ett kraftfullt motgift mot dess effekter.
Generativa modeller i sig ger inga motåtgärder mot desinformation. De ger oss bara en uppfattning om storleken på effekterna. Faktakontroll kan hjälpa men det är inte jätteeffektivt (anden är redan slut ur flaskan). Men vad händer om de två kombineras?
Eftersom effekterna av desinformation till stor del kan avvärjas genom att informera människor om att det händer, skulle det vara användbart om faktagranskare erbjöd information om statistiken över desinformation som de har identifierat – till exempel "X % av negativa påståenden mot kandidat A var falska ." En väljarkår utrustad med denna information kommer att påverkas mindre av desinformation.
Tillhandahålls av The Conversation
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln. 
