Hallå, sa min kongressledamot verkligen det? Är det verkligen president Donald Trump på den videon, eller blir jag lurad?

Ny teknik på internet låter vem som helst göra videor av riktiga människor som verkar säga saker de aldrig har sagt. Republikaner och demokrater förutspår att detta högteknologiska sätt att lägga ord i någons mun kommer att bli det senaste vapnet i desinformationskrig mot USA och andra västerländska demokratier.

Vi pratar inte om läppsynkroniseringsvideor. Den här tekniken använder ansiktskartläggning och artificiell intelligens för att producera videor som verkar så genuina att det är svårt att upptäcka falska. Lagstiftare och underrättelsetjänstemän oroar sig för att de falska videorna – kallade deepfakes – kan användas för att hota den nationella säkerheten eller blanda sig i val.

Än så länge, det har inte hänt, men experter säger att det inte är en fråga om, men när.

"Jag förväntar mig att vi här i USA kommer att börja se detta innehåll i de kommande mellanårsvalen och det nationella valet om två år, sa Hany Farid, en digital kriminalteknisk expert vid Dartmouth College i Hannover, New Hampshire. "Teknologin, självklart, känner inga gränser, så jag förväntar mig att effekterna kommer att krusa runt i världen."

När en genomsnittlig person kan skapa en realistisk falsk video där presidenten säger vad de vill, Farid sa, "vi har gått in i en ny värld där det kommer att bli svårt att veta hur man ska tro på det vi ser." Det omvända är ett problem, för. Människor kan avfärda som falska äkta bilder, säg om en verklig grymhet, att få politiska poäng.

Att inse implikationerna av tekniken, U.S. Defense Advanced Research Projects Agency är redan två år inne på ett fyraårigt program för att utveckla teknik som kan upptäcka falska bilder och videor. Just nu, det krävs omfattande analyser för att identifiera falska videor. Det är oklart om nya sätt att autentisera bilder eller upptäcka förfalskningar kommer att hålla jämna steg med deepfake-tekniken.

Deepfakes heter så för att de använder djupinlärning, en form av artificiell intelligens. De tillverkas genom att en dator matar en algoritm, eller uppsättning instruktioner, massor av bilder och ljud av en viss person. Datorprogrammet lär sig hur man efterliknar personens ansiktsuttryck, manér, röst och böjningar. Om du har tillräckligt med video och ljud från någon, du kan kombinera en falsk video av personen med ett falskt ljud och få dem att säga vad du vill.

Än så länge, deepfakes har mest använts för att smutskasta kändisar eller som gags, men det är lätt att förutse att en nationalstat använder dem för skändliga aktiviteter mot USA, sa senator Marco Rubio, R-Fla., en av flera ledamöter i senatens underrättelsekommitté som uttrycker oro över deepfakes.

En utländsk underrättelsemyndighet skulle kunna använda tekniken för att producera en falsk video av en amerikansk politiker som använder ett rasepitet eller tar en muta, säger Rubio. De kan använda en falsk video av en amerikansk soldat som massakrerar civila utomlands, eller en av en amerikansk tjänsteman som ska erkänna en hemlig plan för att genomföra en konspiration. Föreställ dig en falsk video av en amerikansk ledare – eller en tjänsteman från Nordkorea eller Iran – som varnar USA för en förestående katastrof.

"Det är ett vapen som skulle kunna användas – tidsinställd och placerad på rätt sätt – på samma sätt som falska nyheter används, förutom i en videoform, som kan skapa verkligt kaos och instabilitet inför ett val eller ett stort beslut av något slag, " sa Rubio till Associated Press.

Deepfake-tekniken har fortfarande några problem. Till exempel, människors blinkande i falska videor kan verka onaturligt. Men tekniken förbättras.

"Inom ett eller två år, det kommer att bli riktigt svårt för en person att skilja mellan en riktig video och en falsk video, sa Andrew Grotto, en internationell säkerhetsstipendiat vid Center for International Security and Cooperation vid Stanford University i Kalifornien.

"Denna teknik, Jag tror, kommer att vara oemotståndlig för nationalstater att använda i desinformationskampanjer för att manipulera den allmänna opinionen, lura befolkningar och undergräva förtroendet för våra institutioner, ", sa Grotto. Han uppmanade regeringsledare och politiker att tydligt säga att det inte har någon plats i civiliserad politisk debatt.

Grova videor har använts för skadliga politiska syften i flera år, så det finns ingen anledning att tro på de högreteknologiska, som är mer realistiska, kommer inte att bli verktyg i framtida desinformationskampanjer.

Rubio noterade att 2009, USA:s ambassad i Moskva klagade till det ryska utrikesministeriet över en falsk sexvideo som den sa gjordes för att skada en amerikansk diplomats rykte. Videon visade den gifte diplomaten, som var en länk till ryska religiösa grupper och människorättsgrupper, ringa telefonsamtal på en mörk gata. Videon visade sedan diplomaten på sitt hotellrum, scener som uppenbarligen är inspelade med en dold kamera. Senare, videon verkade visa en man och en kvinna som hade sex i samma rum med lamporna släckta, även om det inte alls stod klart att mannen var diplomaten.

John Beyrle, som var USA:s ambassadör i Moskva vid den tiden, anklagade den ryska regeringen för videon, vilket han sa var uppenbart påhittat.

Michael McFaul, som var amerikansk ambassadör i Ryssland mellan 2012 och 2014, sade att Ryssland har engagerat sig i desinformationsvideor mot olika politiska aktörer i flera år och att han också hade varit ett mål. Han har sagt att rysk statspropaganda förde in hans ansikte i fotografier och "skarvade mina tal för att få mig att säga saker jag aldrig yttrat och till och med anklagade mig för pedofili."

© 2018 The Associated Press. Alla rättigheter förbehållna.