Facebook säger att det förbjuder "deepfake" videor, de falska men realistiska klippen skapade med artificiell intelligens och sofistikerade verktyg, eftersom det ökar ansträngningarna för att bekämpa onlinemanipulation. Men politiken lämnar många kryphål.

Det sociala nätverket sa sent på måndagen att det förstärker sin policy för att ta bort videor som redigerats eller syntetiserats på sätt som inte är uppenbara för den genomsnittliga personen, och som kan lura någon att tro att videons ämne sa något han eller hon faktiskt inte sa.

Skapad av artificiell intelligens eller maskininlärning, deepfakes kombinerar eller ersätter innehåll för att skapa bilder som kan vara nästan omöjliga att säga inte är autentiska.

"Även om dessa videor fortfarande är sällsynta på internet, de utgör en betydande utmaning för vår industri och samhälle när deras användning ökar, "Facebooks vice vd för global policyhantering, Monika Bickert, sa i ett blogginlägg.

Dock, hon sa att de nya reglerna inte kommer att inkludera parodi eller satir, eller klipp redigerade bara för att ändra ordningen på orden. Undantagen understryker den balansgång som Facebook och andra sociala medietjänster står inför i sin kamp för att stoppa spridningen av desinformation online och "falska nyheter" samtidigt som de respekterar yttrandefriheten och avvärjer anklagelser om censur.

Det amerikanska teknikföretaget har brottats med hur de ska hantera ökningen av deepfakes efter att ha mött kritik förra året för att ha vägrat att ta bort en manipulerad video av parlamentets talman Nancy Pelosi som sluddrar hennes ord, som visats mer än 3 miljoner gånger. Experter sa att det grovt redigerade klippet var mer av en "billig fejk" än en deepfake.

Sedan, ett par artister lade upp falska bilder av Facebooks vd Mark Zuckerberg som visar honom glädjas över sitt enmansherravälde över världen. Facebook lämnade också det klippet online. Företaget sa då att ingen av videorna bröt mot dess policyer.

Problemet med ändrade videor blir allt mer brådskande när experter och lagstiftare försöker ta reda på hur man kan förhindra att deepfakes används för att störa det amerikanska presidentvalet i november.

Den nya policyn är en "stark utgångspunkt, "men tar inte upp bredare problem, sa Sam Gregory, programchef på Witness, en ideell organisation som arbetar med att använda videoteknik för mänskliga rättigheter.

"Verkligheten är att det inte finns så många politiska deepfakes för tillfället. De är främst sexuella bilder utan samtycke, " och det större problemet är videor som antingen visas utan sammanhang eller lätt redigerade, som vissa har kallat "grunda förfalskningar, ", sa han. Dessa inkluderar Pelosi-klippet eller ett som gjorde rundor förra veckan av den demokratiske presidentkandidaten Joe Biden som selektivt redigerades för att felaktigt antyda att han gjorde rasistiska kommentarer.

Gregory, vars grupp var bland dem som gav feedback till Facebook för policyn, sa att även om de nya reglerna såg starka ut på pappret, det finns frågor om hur effektivt företaget kommer att vara på att avslöja syntetiska videor.

Facebook har byggt deepfake-detekterande algoritmer och kan även titta på ett kontos beteende för att få en uppfattning om huruvida det är avsikten att sprida desinformation, så att företaget kommer att ha ett försprång framför användare eller journalister när det gäller att sniffa upp dem, sa Gregory.

Men dessa algoritmer har inte använts i stor utsträckning för djupförfalskningar "i naturen. Så det är en öppen fråga hur effektiv detektion kommer att vara, " sa han. "Det här är en algoritmisk sorts katt- och råttalek, där förfalskningarna kommer att bli bättre vid sidan av upptäckten."

Facebook sa alla videor, deepfake eller inte, kommer också att tas bort om de bryter mot befintliga standarder för nakenhet, grafiskt våld eller hatretorik. De som inte tas bort kan fortfarande granskas av oberoende tredjepartsfaktagranskare och alla som anses vara falska kommer att flaggas som sådana för personer som försöker dela eller visa dem, vilket Bickert sa var ett bättre tillvägagångssätt än att bara ta ner dem.

"Om vi ​​helt enkelt tog bort alla manipulerade videor som flaggats av faktagranskare som falska, videorna skulle fortfarande vara tillgängliga någon annanstans på internet eller sociala mediers ekosystem, " sa Bickert. "Genom att lämna dem och märka dem som falska, vi förser människor med viktig information och sammanhang."

Twitter, som har varit en annan grogrund för desinformation och ändrade videor, sa att det är "på väg" att skapa en policy för "syntetisk och manipulerad media, " som skulle inkludera deepfakes och andra manipulerade videor. Företaget har bett om offentlig feedback om frågan. De svar som det överväger inkluderar att sätta ett meddelande bredvid tweets som innehåller manipulerat material. Tweetarna kan också tas bort om de är vilseledande och kan orsaka allvarlig skada på någon.

Youtube, under tiden, har en policy mot "bedrägliga metoder" men verkar inte specifikt förbjuda deepfakes. Google svarade inte omedelbart på ett meddelande för kommentar på tisdagen.

© 2020 The Associated Press. Alla rättigheter förbehållna.