Den senaste virala "deepfake" videon av Mark Zuckerberg som förklarar, "den som kontrollerar datan kontrollerar världen" var inte en särskilt övertygande efterlikning av Facebook -VD, men den var spektakulärt framgångsrik när det gällde att fokusera uppmärksamheten på hotet om digital mediamanipulation.

Medan fotografiska förfalskningar har funnits sedan fotograferingens gryning, den nyare användningen av djupinlärningsteknik för artificiell intelligens ("djupet" i djupfake) leder till skapandet av allt mer trovärdiga datasimuleringar.

Zuckerberg-videon väckte uppmärksamhet på nätet både för att den visade det tekniska wunderkind som är delvis ansvarig för att översvämma världen med falska nyheter, och eftersom det belyste tekniken som säkert kommer att göra problemet värre.

"Falska positiva är inte det enda problemet

Vi har sett smärtan och tragedin som virala falskheter kan orsaka, från trakasserierna av föräldrar som förlorade barn i Sandy Hook-skjutningen, till mobmord i Indien och på andra håll.

Deepfakes, vi oroar oss, kommer bara att förvärra problemet. Vad händer om de används för att felaktigt implicera någon i ett mord? För att ge falska order till trupper på slagfältet? Eller för att väcka väpnad konflikt?

Vi skulle kunna beskriva sådana händelser som de "falska positiva" av djup fejk:händelser som verkade hända, men gjorde det inte. Å andra sidan, det finns de "falska negativa":händelser som hände, men som riskerar att avfärdas som ännu en falsk.

Tänk på USA:s president Donald Trumps påstående att rösten på det ökända Access Hollywood-bandet, där han skryter om trevande kvinnor, var inte hans egen. Trump har gjort en politisk specialitet av att be folk att inte tro sina ögon eller öron. Han vilseledde folk om storleken på publiken vid invigningen, och sa att han inte kallade Meghan Markle "otäck" i en intervju när han gjorde det.

Denna strategi fungerar genom att ifrågasätta alla medierade bevis. Det är, allt vi inte upplever direkt själva, och till och med mycket av det vi gör i den mån det inte delas av andra.

Vad det handlar om är vår förmåga att kommunicera sanningar till varandra och att skapa konsensus kring dem. Dessa insatser är verkligen höga, eftersom demokrati förlitar sig på effektiviteten att tala sanning till makten. Om, som Väktaren Ställ det, "deepfakes är där sanningen dör, ”då hotar de att ta med sig det offentliga ansvaret.

Ökad övervakning är inte svaret

Eftersom problemet verkar vara ett tekniskt, det är frestande att satsa på tekniska, snarare än social eller politisk, lösningar. Vanligtvis, dessa föreslagna lösningar tar formen av förbättrad verifiering, vilket innebär allt mer omfattande övervakning.

En idé är att varje kamera automatiskt ska märka bilder med en unik digital signatur. Detta skulle göra det möjligt att spåra bilder tillbaka till enheten som tog dem, och, när det gäller nätverksanslutna enheter, till dess användare eller ägare. En kommentator har beskrivit detta som "en övervakningsstats dröm".

Eller så kan vi föreställa oss en värld där den byggda miljön är genomsyrad av flera kameror, ständigt fånga och konstruera en "delad" verklighet som kan användas för att avslöja falska videor när de dyker upp. Detta skulle inte bara vara drömmen om en övervakningsstat, men dess fantasi förverkligades.

Det faktum att sådana lösningar inte bara är dystopiska, men misslyckas också med att effektivt ta itu med problemet (eftersom signaturer kan förfalskas, och den "officiella" versionen av verkligheten kan avfärdas som ännu en falsk), gör oss inte mindre benägna att jaga dem.

Den ytterligare bristen med sådana lösningar är att de antar att människor och plattformar som sprider falsk information kommer att skjuta upp sanningen när de konfronteras med den.

Folk tror vad de vill tro

Vi känner till sociala medier, tills de hålls ansvariga för att verifiera den information de sprider, ha ett incitament att marknadsföra det som får mest uppmärksamhet, oavsett dess äkthet. Vi är mer ovilliga att erkänna att detsamma gäller för människor.

I uppmärksamhetsekonomin online, det är inte bara plattformarna som tjänar på att sprida sensationell desinformation, det är också människorna som använder dem.

Tänk på fallet med den Londonbaserade islamiska journalisten Hussein Kesvani. Kesvani berättar om den tid då han spårade ett Twitter -troll vid namn "True Brit" som hade peppat honom med islamofoba kommentarer och memes. Efter att ha etablerat en vanlig onlinekonversation med sin online-antagonist, Kesvani kunde få en intervju med honom ansikte mot ansikte.

Han frågade True Brit varför han var villig att cirkulera bevisligen falska fakta, påståenden, och felmärkta och vilseledande bilder. Sann Brit ryckte på axlarna från frågan, ordspråk, "Du vet inte vad som är sant eller inte nuförtiden, i alla fall." Han brydde sig inte om den bokstavliga sanningen, bara om den "djupare" känslomässiga sanningen i bilderna, vilket han kände bekräftade hans fördomar.

Verifieringsstrategier kan vara användbara för att öka övervakningssamhället, men de kommer att ha lite köp på de sanna britterna i världen som är villiga att omfamna och sprida djupt förfalskningar eftersom de tror att deras lögner innehåller djupare sanningar. Problemet ligger inte bara i tekniken, men i den försämrade versionen av det medborgerliga liv som sociala medieplattformar trivs på.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.