En ny studie från University of California, Berkeley, har funnit att deepfakes ofta kan lura människor, även efter att de har fått utbildning i hur man upptäcker dem.
Studien, som publicerades i tidskriften _PLoS One_, bad 33 personer att lyssna på en serie djupförfalskningar och riktiga inspelningar. Deltagarna ombads sedan betygsätta hur säkra de var på att varje inspelning var äkta eller falsk.
Resultaten visade att deltagarna blev lurade av talet deepfakes ungefär 50 % av gångerna, även efter att de hade fått utbildning i hur man upptäcker dem. Detta tyder på att deepfakes för tal blir allt mer sofistikerade och svåra att upptäcka.
Studiens författare säger att deras resultat har konsekvenser för användningen av djupa talförfalskningar i den verkliga världen. De varnar för att deepfakes kan användas för att sprida felaktig information, utge sig för att vara andra eller begå bedrägerier.
"Våra resultat tyder på att vi måste vara mer försiktiga med att tro på vad vi hör", säger studiens medförfattare Dan Goldstein. "Deepfakes för tal blir mer och mer realistiska, och de blir svårare att upptäcka."
Studiens författare rekommenderar att människor vidtar följande åtgärder för att skydda sig mot djupa talförfalskningar:
* Var medveten om att deepfakes finns och var skeptisk till alla ljudinspelningar som du stöter på.
* Var uppmärksam på de visuella ledtrådarna i en inspelning. Om personens mun inte rör sig i takt med orden de säger kan det vara en djupförfalskning.
* Lyssna efter konstiga eller onaturliga ljud i en inspelning. Deepfakes har ofta ett elektroniskt eller robotljud.
* Om du inte är säker på om en inspelning är äkta eller falsk, försök hitta andra informationskällor för att verifiera den.
Studiens författare säger att dessa steg kan hjälpa människor att skydda sig mot djupa talförfalskningar, men de erkänner också att djupförfalskningar av tal är ett allvarligt problem som kommer att kräva en samlad ansträngning för att ta itu med.
"Vi måste fortsätta att forska om djupa talförfalskningar och utveckla nya sätt att upptäcka dem", säger Goldstein. "Vi måste också öka medvetenheten om farorna med deepfakes och utbilda människor om hur de kan skydda sig själva."