Twitters nya policy syftar till att stävja spridningen av "syntetiskt och manipulerat" innehåll inklusive så kallade "deepfake"-videor som ändrats med hjälp av artificiell intelligens
Twitter presenterade på tisdagen en plan för att stävja spridningen av manipulerat innehåll inklusive "deepfake" videor som en del av ett steg för att bekämpa desinformation som kan resultera i våld eller annan skada.
Policyn tillkännagavs efter att Twitter förra året bad om kommentarer om sätt att minska "syntetisk och manipulerad media" på onlineplattformen som kan lura människor under valkampanjer eller framkalla våld eller fysisk skada.
Twitter, som tillsammans med andra sociala plattformar har kämpat för att svara på oro över desinformation, sade att dess nya policy kräver en blandning av "varningsetiketter" för tweets som inkluderar manipulerade bilder eller video, och borttagning av tweets.
Flytten kommer mitt i växande oro över "deepfake" videor som ändrats med hjälp av artificiell intelligens, tillsammans med andra typer av manipulation för att lura användare av sociala medier.
Twitters vicepresident för förtroende och säkerhet Del Harvey sa att den nya policyn inte bara tar upp deepfakes utan andra typer av manipulation, ibland beskrivs som "grunda förfalskningar" eller "billiga förfalskningar".
"Detta är inte en djupfalsk regel, " Hon sa.
"Vi vill ta itu med varje incident där media har ändrats eller fabricerats."
Beslutet om huruvida en etikett ska inkluderas eller ta bort innehållet beror på "sannolikheten och svårighetsgraden av skada som kan resultera, " sa Harvey under ett samtal med journalister.
Twitter sa i ett blogginlägg att det skulle börja tillämpa den nya policyn den 5 mars, varna användare om manipulerade bilder eller video, och ibland kompensera dem med länkar till mer information om ämnena.
Twitter säger att det kommer att placera varningsetiketter på falska videor som publiceras i avsikt att lura människor, och i vissa fall ta bort innehållet
"Du får inte bedrägligt dela syntetiska eller manipulerade medier som sannolikt kan orsaka skada, ", sa gruppproduktchefen Ashita Achuthan och chefen för webbplatsintegritet Yoel Roth i blogginlägget.
"Dessutom, Vi kan märka tweets som innehåller syntetiska och manipulerade medier för att hjälpa människor att förstå medias autenticitet och för att ge ytterligare sammanhang."
Politiker inklusive
Den nya regeln kommer att gälla för politiker och deras kampanjer, enligt Harvey.
"Om media ändras eller tillverkas, oavsett vem individen är, denna policy kommer fortfarande att gälla, " Hon sa.
Enligt policyn, till exempel, doktorerade videor av USA:s förre vicepresident Joe Biden och av den demokratiska högtalaren i representanthuset Nancy Pelosi som orsakade kontroverser nyligen på sociala medier skulle bryta mot den nya regeln, enligt Twitter-chefer.
"Oavsett om du använder avancerade maskininlärningsverktyg eller använder en 99-cents app för att sakta ner videor på din telefon, våra regler gäller innehållet inte hur resultatet uppnåddes, " sa Roth.
"Resulterar slut tweeten i förvirring eller missförstånd eller resulterar i ett medvetet försök att vilseleda människor? Det är frågan."
Tillkännagivandet kommer en dag efter att YouTube sa att det kommer att ta bort valrelaterade videor som är "manipulerade eller manipulerade" för att vilseleda väljarna, mitt i ökad oro för ansträngningar att sprida desinformation som kan påverka val runt om i världen.
Facebook, som har sin egen policy för desinformation, i januari sa att det skulle förbjuda deepfake-videor samtidigt som de tillåter kraftigt redigerade klipp så länge de är parodier eller satirer.
Sociala medieplattformar har varit under press att utrota desinformation inklusive manipulerade bilder och videor
Filtrering efter förfalskningar
Faktorer som Twitter kommer att väga när man bestämmer vilket innehåll som är bedrägligt manipulerat eller rent fabricerat inkluderar hur tungt det redigeras; om ljudet har dubbats över eller tagits bort, och om de på bilden är simuleringar.
Också på listan över förbjudet innehåll fanns hot mot integritet eller yttrandefrihet i form av "stalking eller oönskad och tvångsmässig uppmärksamhet; riktat innehåll som inkluderar troper, epitet, eller material som syftar till att tysta någon; väljarnas förtryck eller skrämsel."
Roth sa att Twitter kommer att försöka vara "proaktiv" i policyn "för att minska bördan för människor att rapportera till oss."
Tillsammans med att visa varningsetiketter på manipulerade bilder innan de "gillas" eller delas, Twitter kommer att förhindra att det inkluderas i rekommenderat innehåll och kommer vanligtvis att tillhandahålla ytterligare information för att motverka missuppfattningar.
Twitter sa att den nya regeln var baserad på en undersökning av amerikanska användare samt feedback från människor runt om i världen som kikade på att använda tweets.
Globalt, mer än 70 procent av Twitter-användare som uttryckte åsikter sa att det skulle vara oacceptabelt att inte vidta några åtgärder mot kränkande tweets, enligt Achuthan och Roth.
© 2020 AFP
