En självbeskriven vit supremacist använde Facebook Live för att streama sitt framfart vid två moskéer i Christchurch, vilket gjorde att 51 människor dog
Facebook meddelade på onsdagen att de skulle skärpa tillgången till sin livestreaming-funktion när Nya Zeelands premiärminister Jacinda Ardern och den franske ledaren Emmanuel Macron förberedde sig för att lansera det globala initiativet "Christchurch Call" för att ta itu med spridningen av extremism på nätet.
Facebook-chefen Mark Zuckerberg har varit under intensiv press sedan mars när en vit supremacist beväpnade man använde Facebook Live för att streama sitt framfart vid två moskéer i den nyzeeländska staden Christchurch, vilket gjorde att 51 människor dog.
Den Kalifornien-baserade plattformen sa att den skulle förbjuda Facebook Live-användare som delade extremistiskt innehåll och försöka förstärka sina egna interna kontroller för att stoppa spridningen av stötande videor.
"Efter de senaste terrorattackerna i Nya Zeeland, vi har granskat vad mer vi kan göra för att begränsa våra tjänster från att användas för att orsaka skada eller sprida hat, " Facebooks vicepresident för integritet Guy Rosen sa i ett uttalande.
Ardern och Macron kommer senare att utfärda Christchurch Call för att bekämpa spridningen av hatiskt och terrorrelaterat innehåll tillsammans med ledare från Storbritannien, Kanada, Norge, Jordan och Senegal, som också kommer att vara i Paris.
Det till stor del symboliska initiativet är avsett att hålla uppe trycket på sociala medieföretag som möter växande uppmaningar från politiker över hela världen att stoppa deras plattformar att missbrukas.
"Det är en handlingsplan, det är början på något, " berättade Ardern för CNN i en intervju på onsdagen.
Frankrikes president Emmanuel Macron och Nya Zeelands premiärminister Jacinda Ardern ska lansera ett nytt initiativ som syftar till att stävja extremism på nätet
Många länder har redan skärpt lagstiftningen för att införa sanktioner för företag som inte tar bort stötande innehåll när det väl flaggats av myndigheter.
"Vi måste komma inför detta (problem) innan skada sker, Ardern tillade. "Detta handlar inte bara om reglering, men att föra företag till bordet och säga att de också har en roll."
Det politiska mötet i Paris kommer att löpa parallellt med ett initiativ som lanserats av Macron kallat "Tech for Good" som kommer att samla 80 teknikchefer för att diskutera hur man kan utnyttja teknologier för det gemensamma bästa.
Cheferna för de amerikanska teknikjättarna Wikipedia, Uber, Twitter, Microsoft och Google kommer att delta, men inte Zuckerberg som höll privata en-till-en-samtal med Macron förra veckan.
Den sociala nätverksjätten kommer istället att representeras av sin vicepresident för globala frågor och kommunikation Nick Clegg, den tidigare brittiske vice premiärministern.
"Jag har pratat med Mark Zuckerberg direkt två gånger nu... och han gav Facebooks stöd för denna uppmaning, " sa Ardern.
Den amerikanska regeringen har inte godkänt Christchurch Call och kommer endast att vara representerad på juniornivå vid ett möte med G7:s digitala ministrar som också äger rum på onsdag i Paris.
Facebooks vd Mark Zuckerberg förväntas inte närvara vid lanseringen av ett nytt initiativ för att stävja extremism på nätet
"Skräckande ny trend"
I en opinionsartikel i The New York Times under helgen, Ardern sa att massakern i Christchurch underströk "en skrämmande ny trend" i extremistiska grymheter.
"Den var designad för att sändas på internet. Hela evenemanget livestreamades... omfattningen av den här fruktansvärda videons räckvidd var häpnadsväckande, " hon skrev.
Ardern sa att Facebook tog bort 1,5 miljoner kopior av videon inom 24 timmar efter attacken, men hon befann sig fortfarande bland dem som oavsiktligt såg materialet när det spelades upp automatiskt på deras sociala medier.
Runt 8, 000 nyazeeländare ringde en hotline för mental hälsa efter att ha sett videon, sa hon till CNN.
"(Vi) ber både nationer och privata företag att göra ändringar för att förhindra publicering av terroristinnehåll online, att säkerställa ett effektivt och snabbt avlägsnande och förhindra användningen av livestreaming som ett verktyg för att sända terroristattacker, " skrev hon i The Times.
I onsdagens uttalande, Facebook erkände otillräckligheten i sina egna system.
Frankrike och Nya Zeeland ser sitt gemensamma initiativ för att stävja extremism online som ett globalt svar på ett globalt problem
"En av utmaningarna vi stod inför dagarna efter attacken var en spridning av många olika varianter av videon av attacken, ", sa vicepresident för integritet Rosen.
"Människor – inte alltid avsiktligt – delade redigerade versioner av videon vilket gjorde det svårt för våra system att upptäcka."
Nya Zeelands tjänstemän sa att Ardern hittade en naturlig partner för kampen mot onlineextremism i Macron, som upprepade gånger har uttalat att status quo är oacceptabelt.
"Macron var en av de första ledarna som ringde premiärministern efter attacken, och han har länge gjort att ta bort hatiskt innehåll på nätet till en prioritet, "Nya Zeelands ambassadör i Frankrike, Jane Coombs, berättade för journalister på måndagen.
"Det är ett globalt problem som kräver ett globalt svar, " Hon sa.
En fransk presidentkälla sa att det var dags för teknikföretag att "förutse hur deras funktioner kommer att utnyttjas."
Företagen själva kommer att uppmanas att komma med konkreta åtgärder, källan sa, till exempel genom att reservera livesändningar till konton i sociala medier vars ägare har identifierats.
© 2019 AFP
