Sidor från en konfidentiell whistleblower-rapport erhållen av Associated Press, tillsammans med två tryckta Facebook-sidor som var aktiva på tisdagen, 17 september, 2019, är fotograferade i Washington. Facebook gillar att säga att dess automatiserade system tar bort den stora majoriteten av förbjudet innehåll som glorifierar Islamiska staten och al-Qaida innan det rapporteras. Men ett klagomål från en whistleblower visar att Facebook själv oavsiktligt har producerat dussintals sidor i deras namn. (AP Photo/Jon Elswick)
Inför kritiken om att Facebook inte gör tillräckligt för att bekämpa extremistiska meddelanden, företaget tycker om att säga att dess automatiserade system tar bort den stora majoriteten av förbjudet innehåll som glorifierar Islamiska staten och al-Qaida innan det rapporteras.
Men en anmälan från en whistleblower visar att Facebook själv oavsiktligt har försett de två extremistgrupperna med ett nätverks- och rekryteringsverktyg genom att producera dussintals sidor i deras namn.
Det sociala nätverksföretaget verkar ha gjort små framsteg i frågan under de fyra månaderna sedan The Associated Press detaljerade hur sidor som Facebook automatiskt genererar för företag hjälper Mellanösternextremister och vita supremacister i USA.
På onsdag, amerikanska senatorer i handelsutskottet, Vetenskap, och Transportation kommer att förhöra representanter från sociala medieföretag, inklusive Monika Bickert, som leder Facebooks ansträngningar för att stoppa extremistiska meddelanden.
De nya detaljerna kommer från en uppdatering av ett klagomål till Securities and Exchange Commission som National Whistleblower Center planerar att lämna in denna vecka. Ansökan som erhållits av AP identifierar nästan 200 automatiskt genererade sidor – några för företag, andra för skolor eller andra kategorier – som direkt refererar till gruppen Islamiska staten och dussintals fler som representerar al-Qaida och andra kända grupper. En sida listad som en "politisk ideologi" har titeln "Jag älskar den islamiska staten." Den har en IS-logotyp i konturerna av Facebooks berömda tummen upp-ikon.
Som svar på en begäran om kommentar, En talesperson för Facebook sa till AP:"Vår prioritet är att upptäcka och ta bort innehåll som postats av personer som bryter mot vår policy mot farliga individer och organisationer för att ligga före dåliga aktörer. Automatiskt genererade sidor är inte som vanliga Facebook-sidor eftersom folk inte kan kommentera eller posta på dem och vi tar bort allt som bryter mot våra policyer. Även om vi inte kan fånga alla, vi är fortfarande vaksamma i denna ansträngning."
Facebook har ett antal funktioner som automatiskt genererar sidor från innehåll som lagts upp av användare. Det uppdaterade klagomålet granskar en funktion som är avsedd att hjälpa företagsnätverk. Den skrapar sysselsättningsinformation från användarnas sidor för att skapa sidor för företag. I detta fall, det kan hjälpa extremistgrupperna eftersom det tillåter användare att gilla sidorna, potentiellt tillhandahålla en lista över sympatisörer för rekryterare.
Sidor från en konfidentiell whistleblower-rapport erhållen av Associated Press, är fotograferade i Washington, på tisdag, 17 september, 2019. Facebook gillar att säga att dess automatiserade system tar bort den stora majoriteten av förbjudet innehåll som glorifierar Islamiska staten och al-Qaida innan det rapporteras. Men ett klagomål från en whistleblower visar att Facebook själv oavsiktligt har producerat dussintals sidor i deras namn. (AP Photo/Jon Elswick)
Den nya ansökan fann också att användarnas sidor som främjar extremistiska grupper fortfarande är lätta att hitta med enkla sökningar med deras namn. De avslöjade en sida för "Mohammed Atta" med ett ikoniskt foto av en av al-Qaida-anhängarna, som var en kapare i attackerna den 11 september. Sidan listar användarens arbete som "Al Qaidah" och utbildning som "University Master Bin Laden" och "School Terrorist Afghanistan."
Facebook har arbetat för att begränsa spridningen av extremistiskt material på sin tjänst, hittills med blandad framgång. I mars, den utökade sin definition av förbjudet innehåll till att inkludera amerikanskt vitt nationalistiskt och vitt separatistiskt material samt material från internationella extremistgrupper. Den säger att den har förbjudit 200 vita supremacistiska organisationer och 26 miljoner delar av innehåll relaterat till globala extremistgrupper som IS och al-Qaida.
Den utvidgade också sin definition av terrorism till att inte bara omfatta våldshandlingar för att uppnå ett politiskt eller ideologiskt mål, men också försök till våld, särskilt när de riktar sig till civila med avsikt att tvinga och skrämma. Det är oklart, fastän, hur bra verkställighet fungerar om företaget fortfarande har problem med att befria sin plattform från välkända extremistorganisationers anhängare.
Men som rapporten visar, mycket material tar sig igenom stolarna – och genereras automatiskt.
AP-historien i maj lyfte fram problemet med automatisk generering, men det nya innehållet som identifieras i rapporten tyder på att Facebook inte har löst det.
Rapporten säger också att forskare fann att många av sidorna som hänvisas till i AP-rapporten togs bort mer än sex veckor senare den 25 juni, dagen innan Bickert förhördes för ytterligare en kongressutfrågning.
Frågan flaggades i det första SEC-klagomålet som lämnades in av centrets verkställande direktör, John Kostyack, som hävdar att företaget i sociala medier har överdrivit sin framgång med att bekämpa extremistiska meddelanden.
"Facebook vill att vi ska tro att dess magiska algoritmer på något sätt skurar webbplatsen för extremistiskt innehåll, ", sa Kostyack. "Ändå är samma algoritmer automatiskt genererande sidor med titlar som "Jag älskar Islamiska staten, ' som är idealiska för terrorister att använda för nätverkande och rekrytering."
© 2019 Associated Press. Alla rättigheter förbehållna.
