Skaparna av en applikation som tillåter användare att praktiskt taget "klä av sig" kvinnor som använder artificiell intelligens har stängt av det efter ett uppror i sociala medier om dess potential för missbruk.

Skaparna av "DeepNude" sa att programvaran lanserades för flera månader sedan för "underhållning" och att de "kraftigt underskattade" efterfrågan på appen.

"Vi trodde aldrig att det skulle vara viralt och (att) vi skulle inte kunna kontrollera trafiken, "DeepNude -skaparna, som listade sin plats som Estland, sa på Twitter.

"Trots de säkerhetsåtgärder som antagits (vattenmärken), om 500, 000 personer använder den, sannolikheten för att människor kommer att missbruka den är för hög. Vi vill inte tjäna pengar på det här sättet. "

Artiklar i Washington Post, Vice och andra medier visade hur appen kunde användas för att ta ett foto av en klädd kvinna och förvandla det till en naken bild, väcker upprördhet och förnyad debatt om icke -konsumtionspornografi.

"Detta är en fruktansvärt destruktiv uppfinning och vi hoppas att du snart får konsekvenser för dina handlingar, "twittrade Cyber ​​Civil Rights Initiative, en grupp som söker skydd mot icke -sexuell och "hämnd" porr.

Mary Anne Franks, en juristprofessor och ordförande för CCRI, twittrade senare, "Det är bra att det har stängts av, men detta resonemang har ingen mening. Appens AVSEDDA ANVÄNDNING var att unna sig patetiska mäns rovdjurs- och groteske sexuella fantasier. "

DeepNude erbjöd en gratisversion av programmet samt en betald version, och var den senaste i en trend med "deepfake" -teknologi som kan användas för att lura eller manipulera.

Även om appen stängdes av, kritiker uttryckte oro över att vissa versioner av programvaran förblev tillgängliga och skulle missbrukas.

"#Deepnude -appen finns nu och kommer att användas, trots att skaparen tog det av marknaden. Om det bara fanns ett sätt att inaktivera alla versioner där ute, "Twittrade CCRI.

© 2019 AFP