Det har potential att förstöra relationer, rykte och vår online -verklighet. "Deepfake" artificiell intelligens-teknik lovar att skapa manipulerade videor så realistiska att de är nästan omöjliga att avgöra från den äkta varan. Hittills har det mestadels använts för att skapa förändrade pornografiska klipp med kändisars ansikten, men när teknikerna väl är fulländade, Deepfake hämndporr som utger sig för att visa människor som är otrogna mot sina partner kommer inte att ligga långt efter.

Men mer än att bli ett otäckt verktyg för förföljare och trakasserare, deepfakes hotar att undergräva förtroendet för politiska institutioner och samhället som helhet. Vita huset motiverade nyligen att tillfälligt förbjuda en reporter från sina presskonferenser med hjälp av enligt uppgift påskyndade äkta bilder av en incident med journalisten. Föreställ dig konsekvenserna av att se ultrarealistiska men konstgjorda bilder av regeringsledare som planerar mord, VD:ar som samarbetar med utländska agenter eller en känd filantrop som misshandlar barn.

Så kallade falska nyheter har redan ökat många människors skepsis mot politiker, journalister och andra offentliga personer. Det börjar bli så enkelt att skapa helt fiktiva scenarier att vi inte längre kan lita på någon videofilm till nominellt värde. Detta hotar vår politiska, juridiska och mediasystem, för att inte tala om våra personliga relationer. Vi kommer att behöva skapa nya former av konsensus att basera vår sociala verklighet på. Nya sätt att kontrollera och fördela makt – vissa politiska, något tekniskt — skulle kunna hjälpa oss att uppnå detta.

Falska skandaler, falska politiker

Deepfakes är skrämmande eftersom de tillåter att någons bild samordnas, och ifrågasätter vår förmåga att lita på det vi ser. En uppenbar användning av deepfakes skulle vara att felaktigt involvera människor i skandaler. Även om de inkriminerande filmerna senare bevisas vara falska, skadan på offrets rykte kan vara omöjlig att reparera. Och politiker kunde justera gamla bilder av sig själva för att få det att se ut som om de alltid hade stött något som nyligen blivit populärt, uppdatera sina positioner i realtid.

Det kan till och med finnas offentliga personer som är helt inbillade, original men inte äkta. Under tiden, videofilmer kan bli oanvändbara som bevis i domstol. Utsända nyheter kan reduceras till människor som diskuterar om klippen var autentiska eller inte, använder allt mer komplex AI för att försöka upptäcka deepfakes.

Men den kapprustning som redan existerar mellan skapare av falskt innehåll och de som upptäcker eller avfärdar desinformation (som Facebooks planerade "krigsrum") för falska nyheter döljer en djupare fråga. Blotta existensen av deepfakes undergräver förtroende och tillit, precis som möjligheten att ett val hackades ifrågasätter resultatets giltighet.

Medan vissa människor kan tas upp av djupfake, det är inte det verkliga problemet. Det som står på spel är den underliggande sociala strukturen där vi alla är överens om att det finns någon form av sanning, och de sociala verkligheterna som bygger på detta förtroende. Det är inte en fråga om slutet på sanningen, men slutet på tron ​​på sanning-ett samhälle efter förtroende. I spåren av massiv desinformation, även ärliga offentliga personer kommer lätt att ignoreras eller misskrediteras. De traditionella organisationer som har stöttat och möjliggjort konsensus – regeringen, pressen - kommer inte längre att vara ändamålsenligt.

Blockchain-förtroende

Nya lagar för att reglera användningen av deepfakes kommer att vara viktiga för människor som har skadliga videor gjorda av dem. Men enbart politik och lag kommer inte att rädda våra styrningssystem. Vi kommer att behöva utveckla nya former av konsensus, nya sätt att komma överens om sociala situationer baserade på alternativa former av förtroende.

Ett tillvägagångssätt kommer att vara att decentralisera förtroendet, så att vi inte längre behöver ett fåtal institutioner för att garantera om informationen är äkta och istället kan lita på flera personer eller organisationer med gott rykte. Ett sätt att göra detta kan vara att använda blockchain, tekniken som driver Bitcoin och andra kryptovalutor.

Blockchain fungerar genom att skapa en offentlig reskontra som lagras på flera datorer runt om i världen samtidigt och som görs manipulationssäker med kryptografi. Dess algoritmer gör det möjligt för datorerna att komma överens om giltigheten av eventuella ändringar i huvudboken, vilket gör det mycket svårare att registrera falsk information. På det här sättet, förtroende fördelas mellan alla datorer som kan granska varandra, öka ansvarsskyldigheten.

Ett mer demokratiskt samhälle

Vi kan också se till mer demokratiska styrelseformer och journalistik. Till exempel, flytande demokrati tillåter väljarna att rösta direkt i varje fråga eller tillfälligt tilldela sina röster till delegater på ett mer flexibelt och ansvarsfullt sätt än att lämna över full kontroll till ett parti i flera år. Detta skulle göra det möjligt för allmänheten att vända sig till experter för att fatta beslut åt dem vid behov, men snabbt rösta bort politiker som struntade i deras åsikter eller handlade oärligt, öka förtroendet och legitimiteten för det politiska systemet.

I pressen, vi skulle kunna gå mot mer kollaborativ och demokratiserad nyhetsrapportering. Traditionella journalister skulle kunna använda de positiva aspekterna av sociala medier för att samla information från ett mer varierat utbud av källor. Dessa bidragsgivare kan sedan diskutera och hjälpa till att granska berättelsen för att skapa en konsensus, förbättra medias anseende.

Problemet med alla system som förlitar sig på nyckelpersonernas rykte för att bygga upp förtroende är hur man förhindrar att detta rykte missbrukas eller skadas bedrägligt. Kontroller som Twitters "blå bock"-kontoverifiering för offentliga personer kan hjälpa, men bättre juridiska och tekniska skydd behövs också:mer skyddad rätt till privatliv, bättre svar på antisocialt beteende online, och bättre integritetsförbättrande teknik inbyggd genom design.

De potentiella följderna av djupförfalskningar bör fungera som en uppmaning till handling för att omforma förtroendesystem för att vara mer öppna, mer decentraliserat och mer kollektivt. Och nu är det dags att börja tänka på en annan framtid för samhället.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.