Dumbfakes och deepfakes är redigerade eller ändrade videor. Bara under de senaste åren, förmågan att producera och dela dessa videor har ökat exponentiellt på grund av till viss del, till artificiell intelligens.

Dessa falska videor finns redan i kanadensisk politik och är ännu mer sannolikt att skapas och sprids under Kanadas pågående valkampanj.

Dumbfakes är videor som redigerats med traditionella videoredigeringstekniker. De använder teknik som är lättillgänglig på de flesta datorer och smarta telefoner. Politiska förfalskningar som redan dök upp i upptakten till valet inkluderar en video som felaktigt fick det att verka som om premiärminister Justin Trudeau avvisades av Brasiliens president Jair Bolsonaro vid G20-toppmötet i Japan i juni 2019.

I jämförelse, deepfakes använder vanligtvis så kallade generativa kontradiktoriska nätverk, en typ av maskininlärning, att byta ut en persons ansikte mot någon annans kropp eller att manipulera någons ansiktsdrag.

Deepfakes kan också inkludera ljudmanipulation genom att använda en röstskådespelare eller rösthärmande teknik. Teknik för att skapa deepfakes har snabbt spridit sig, inklusive en ny kinesisk app som heter Zao.

Ett exempel på en deepfake är videon av den kanadensiska konservativa partiets ledare Andrew Scheer som komikern Pee-wee Herman i ett gammalt public service-meddelande om crackkokain:

Dumbfakes och deepfakes är unika från andra former av falska nyheter på grund av användningen av videomanipulation. De erbjuder visuella representationer av förmodade händelser, i motsats till ord eller stillbilder, och är därför närmast hur händelser faktiskt upplevs. Verkligen, studier på manipulerade videor har funnit att de är ett effektivt verktyg för att skapa falska minnen.

Medan dumbfakes och deepfakes har plockats upp av traditionella nyhetskanaler, de kommer med största sannolikhet att delas på sociala medier. Detta är oroande eftersom falska nyheter, särskilt politiska falska nyheter, sprider sig exponentiellt snabbare och längre än korrekta nyheter på Twitter.

Inverkan på valet

När vi funderar på vilken inverkan dumbfakes och deepfakes kan ha på valet, det är viktigt att notera att de sannolikt inte kommer att påverka alla människor lika.

De har mest sannolikt en inverkan på människor som är marginaliserade och som redan möter hinder för politiskt engagemang. Kvinnor, till exempel, möta hinder för att kandidera och stanna i politiken. Deepfakes kommer sannolikt att förvärra det eftersom, sedan deras start, deepfakes har använts för att misshandla kvinnor (t.ex. införlivar kvinnliga kändisar i pornografiska filmer).

En intersektionell lins för att förstå hur dumbfakes och deepfakes kan påverka valet är därför viktigt.

Tre områden som dumbfakes och deepfakes har störst inverkan är politisk representation, deltagande, och diskussion.

Representation

Även om alla har rätt att kandidera, dumbfakes och deepfakes kan göra det svårare för människor att göra det. Falska videor kan produceras för att utpressa politiker att inte ställa upp eller för att misskreditera deras kampanjer genom att sprida falsk information.

Politiska kandidater måste nu reflektera över om de är beredda på möjligheten att dumbfakes och deepfakes riktar sig mot dem när de går in i allmänhetens ögon — både när det gäller kampanjer och i det ökade antalet foton och videor av dem tillgängliga online som kan användas att göra dumbfakes och deepfakes.

Politiska kampanjer kan dessutom spåras ur av en skadlig falsk video.

Deltagande

Dumbfakes och deepfakes kan användas mer allmänt mot allmänheten för att tysta medborgare.

Organisationer och aktivister som är i allmänhetens ögon kan vara särskilt riktade på grund av deras onlinenärvaro. Medborgare kan tystas genom att släppa en skadlig falsk video. Även möjligheten till en falsk video kan främja politisk självcensur, särskilt för individer som redan utsätts för diskriminering online (t.ex. rasistiska tweets).

Dumbfakes och deepfakes kan också syfta till att misskreditera viktigt arbete som främjar politiskt ansvar genom att kritisera regeringen och förtryckande metoder.

Diskussion

Falska videor skapar en miljö av misstro som ytterligare hindrar medborgarnas förmåga att verka på basis av delad information. De skulle också kunna hindra diskussioner genom att spela in och förvärra befintliga sociala spänningar nationellt och internationellt.

Vi har sett det här förut. Ryska desinformationsinsatser under det amerikanska presidentvalet 2016 väckte konflikter i ett antal frågor, inklusive immigration, vapenkontroll och Black Lives Matter-rörelsen.

Ett annat problem med dumbfakes och deepfakes är att de undergräver trovärdigheten för videobevis överlag, inklusive riktiga videor som kan föreställa politiker eller andra som ägnar sig åt kompromissande eller moraliskt förkastligt beteende.

Skydda den kanadensiska demokratin

Juridiska sätt att ta itu med dumbfakes och deepfakes – lagar om upphovsrättsintrång och ärekränkning, till exempel — undersöks för närvarande. Detektionstekniken utvecklas också.

Men dessa tillvägagångssätt kanske inte är effektiva om en dumbfake eller en deepfake lämpligen delas bara några dagar före valet. Kanadensiska medborgare måste därför ta på sig ansvaret att kontrollera information och videor, speciellt kring valet.

Dumbfakes och deepfakes har helt klart förändrat videomediet. Det bästa sättet att skydda sig mot den desinformation de sprider är att vara medveten om deras existens.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.