Desinformation fångade många människor under Brexit-folkomröstningen 2016 och det amerikanska presidentvalet. Sedan dess har en miniindustri utvecklats för att analysera och motverka det.
Men trots det har vi gått in i 2024 – ett år med mer än 40 val över hela världen – mer rädda än någonsin för desinformation. På många sätt är problemet mer utmanande än det var 2016.
Teknikens framsteg sedan dess är en anledning till det, i synnerhet den utveckling som skett med syntetiska medier, även kallade deepfakes. Det blir allt svårare att veta om media har tillverkats av en dator eller är baserat på något som verkligen har hänt.
Vi har ännu inte riktigt förstått hur stor inverkan deepfakes kan ha på valen. Men ett antal exempel pekar på hur de kan användas. Det här kan vara året då många misstag görs och lärdomar dras.
Sedan desinformationen spreds kring omröstningarna 2016 har forskare producerat otaliga böcker och tidningar, journalister har omskolat sig till faktakontroll- och verifieringsexperter, regeringar har deltagit i "stora kommittéer" och spetsforskningscentra.
Dessutom har bibliotek blivit fokus för strategier för att bygga motståndskraft, och en rad nya organ har dykt upp för att tillhandahålla analyser, utbildning och resurser.
Denna aktivitet har inte varit fruktlös. Vi har nu en mer nyanserad förståelse av desinformation som ett socialt, psykologiskt, politiskt och teknologiskt fenomen. Insatser för att stödja journalistik av allmänt intresse och odling av kritiskt tänkande genom utbildning är också lovande. Mest anmärkningsvärt är att stora teknikföretag inte längre låtsas vara neutrala plattformar.
Under tiden har beslutsfattare återupptäckt sin skyldighet att reglera teknik i allmänhetens intresse.
Regulatoriska diskussioner har ökat brådskande nu när AI-verktyg för att skapa syntetiska medier – media som helt eller delvis genereras av datorer – har blivit mainstream. Dessa deepfakes kan användas för att imitera rösten och utseendet hos riktiga människor. Deepfake media är imponerande realistiska och kräver inte mycket skicklighet eller resurser.
Detta är kulmen på den bredare digitala revolutionen där successiva teknologier har gjort högkvalitativ innehållsproduktion tillgänglig för nästan alla. Däremot utformades regleringsstrukturer och institutionella standarder för media mestadels i en tid då endast en minoritet av yrkesverksamma hade tillgång till produktion.
Politiska deepfakes kan ta olika former. Det nyligen genomförda indonesiska valet såg en djupt falsk video som "återuppväckte" den bortgångne president Suharto. Detta var skenbart för att uppmuntra folk att rösta, men det anklagades för att vara propaganda eftersom det producerades av det politiska parti han ledde.
En kanske mer uppenbar användning av deepfakes är att sprida lögner om politiska kandidater. Till exempel försökte falskt AI-genererat ljud som släpptes dagar före Slovakiens parlamentsval i september 2023 framställa ledaren för det progressiva Slovakien, Michal Šimečka, som att ha diskuterat med en journalist hur man skulle rigga omröstningen.
Bortsett från den uppenbara ansträngningen att underminera ett politiskt parti, är det värt att notera hur denna djupförfalskning, vars ursprung var oklar, exemplifierar bredare ansträngningar för att göra minoriteter till syndabock och demonisera mainstreamjournalistik.
Lyckligtvis, i det här fallet, var ljudet inte av hög kvalitet, vilket gjorde det snabbare och enklare för faktagranskare att bekräfta dess oäkthet. De demokratiska valens integritet kan dock inte förlita sig på fejkarnas oduglighet.
Deepfake-ljudtekniken är på en sofistikerad nivå som gör det svårt att upptäcka. Deepfake-videor kämpar fortfarande med vissa mänskliga egenskaper, som representation av händer, men tekniken är fortfarande ung.
Det är också viktigt att notera att den slovakiska videon släpptes under de sista dagarna av valkampanjen. Det här är en bästa tid att inleda desinformation och manipulationsattacker eftersom målen och oberoende journalister har händerna fulla och därför har kort tid att svara.
Om det dessutom är dyrt, tidskrävande och svårt att undersöka djupa förfalskningar, så är det inte klart hur valkommissioner, politiska kandidater, media eller faktiskt väljarna ska reagera när potentiella fall uppstår. När allt kommer omkring kan en falsk anklagelse från en deepfake vara lika oroande som den faktiska deepfake.
Ett annat sätt som djupförfalskningar kan användas för att påverka val kan ses i hur de redan används i stor utsträckning för att trakassera och misshandla kvinnor och flickor. Denna typ av sexuella trakasserier passar ett befintligt mönster av övergrepp som begränsar kvinnors politiska deltagande.
Svårigheten är att det ännu inte är klart exakt vilken effekt deepfakes kan ha på valen. Det är mycket möjligt att vi kan se andra liknande användningar av deepfakes i kommande val i år. Och vi kunde till och med se deepfakes användas på sätt som vi ännu inte har tänkt på.
Men det är också värt att komma ihåg att inte all desinformation är högteknologisk. Det finns andra sätt att angripa demokratin. Rykten och konspirationsteorier om integriteten i valprocessen är en lömsk trend. Valfusk är ett globalt bekymmer med tanke på att många länder bara är demokratier till namnet.
Det är klart att sociala medieplattformar möjliggör och driver desinformation på många sätt, men det är ett misstag att anta att problemet börjar och slutar online. Ett sätt att tänka på utmaningen med desinformation under kommande val är att tänka på styrkan i de system som ska upprätthålla demokrati.
Finns det ett oberoende mediesystem som kan tillhandahålla utredningar av hög kvalitet i allmänhetens intresse? Finns det oberoende valadministratörer och organ? Finns det oberoende domstolar som kan döma om det behövs?
Och finns det tillräckligt engagemang för demokratiska värderingar framför egenintresse bland politiker och politiska partier? I år av val kan vi mycket väl få reda på svaret på dessa frågor.
Tillhandahålls av The Conversation
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln. 
