Den svindlande siffran på mer än tre miljarder falska konton som blockerats av Facebook under en sexmånadersperiod belyser de utmaningar som sociala nätverk står inför när det gäller att stävja automatiserade konton, eller bots, och andra otrevliga försök att manipulera plattformarna.

Här är fyra nyckelfrågor om falska konton:

Hur dök det upp så många falska konton?

Facebook sa denna vecka att de "inaktiverade" 1,2 miljarder falska konton under de tre sista månaderna 2018 och 2,19 miljarder under första kvartalet 2019.

De flesta falska sociala mediekonton är "bots, " skapat av automatiserade program för att lägga upp vissa typer av information - ett brott mot Facebooks användarvillkor och en del av ett försök att manipulera sociala konversationer. Sofistikerade aktörer kan skapa miljontals konton med samma program.

Facebook sa att dess artificiella intelligens upptäcker de flesta av dessa ansträngningar och inaktiverar kontona innan de kan publicera på plattformen. Fortfarande, den erkänner att cirka fem procent av de mer än två miljarder aktiva Facebook-kontona förmodligen är falska.

Vad är skadan av falska konton?

Falska konton kan användas för att förstärka populariteten eller ogillan hos en person eller rörelse, på så sätt snedvrider användarnas åsikter om sanna allmänhetens åsikter.

Bots spelade en oproportionerlig roll i att sprida desinformation på sociala medier inför det amerikanska valet 2016, enligt forskare. Skadliga aktörer har använt den här typen av falska konton för att skapa misstro och social splittring i många delar av världen, i vissa fall uppmuntra till våld mot grupper eller individer.

Bots "manipulerar inte bara konversationen, de bygger grupper och överbryggar grupper, " sa Carnegie Mellon University datavetare Kathleen Carley, som har forskat i sociala medier bots.

"De kan få människor i en grupp att tro att de tycker samma sak som människor i en annan grupp, och på så sätt bygger de ekokammare."

Facebook säger att dess verktyg för artificiell intelligens kan identifiera och blockera falska konton när de skapas – och därmed innan de kan publicera felaktig information.

"Dessa system använder en kombination av signaler som mönster för att använda misstänkta e-postadresser, misstänkta handlingar, eller andra signaler som tidigare associerats med andra falska konton som vi har tagit bort, " sa Facebooks analytics vice president Alex Schultz i ett blogginlägg.

Har Facebook kontroll över situationen?

Siffrorna från Facebooks transparensrapport tyder på att Facebook agerar aggressivt mot falska konton, sa Onur Varol, en postdoktor vid Center for Complex Network Research vid Northeastern University.

"Tre miljarder är en stor siffra - det visar att de inte vill missa några falska konton. Men de är villiga att ta en risk" med att inaktivera några legitima konton, sa Varol.

Legitima användare kan bli besvär, men kan i allmänhet få sina konton återställda, konstaterade forskaren.

"Min känsla är att Facebook gör seriösa ansträngningar" för att bekämpa falska konton, han lade till.

Men nya bots blir mer sofistikerade och svårare att upptäcka, eftersom de kan använda språk nästan lika bra som människor, enligt Carley.

"Facebook kan ha löst gårdagens strid men naturen av dessa saker förändras så snabbt att de kanske inte får de nya, " Hon sa.

Varol höll med, noterar att "det finns bots som förstår naturligt språk och kan svara på människor, och det är därför det är viktigt att fortsätta forskningen."

Bör jag oroa mig för bots och falska konton?

Många användare kan inte se skillnad på ett riktigt och ett falskt konto, säger forskare. Facebook och Twitter har intensifierat ansträngningarna att identifiera och sålla bort falska konton, och vissa offentliga verktyg som Botometer utvecklat av Varol och andra forskare kan hjälpa till att fastställa sannolikheten för falska Twitter-konton och följare.

"Om du använder Facebook för att kommunicera med familj och vänner bör du inte oroa dig mycket, sa Filippo Menczer, en datavetare som forskar om sociala medier vid Indiana University.

"Om du använder det för att komma åt nyheter och dela det med vänner, du borde vara försiktig."

Menczer sa att många Facebook-användare ägnar lite uppmärksamhet åt källan till material och kan sluta med att dela falsk eller vilseledande information.

"Alla tror att de inte kan manipuleras men vi är alla sårbara, " han sa.

Tillsammans med bots, människor representerar ett nyckelelement i desinformationskedjan, säger forskare.

"Det mesta av falsk information kommer inte från bots, ", sa Carley. "Det mesta kommer från bloggar och botarna sänder det igen" för att förstärka desinformationen.

Facebooks chef Mark Zuckerberg sa att Facebook försöker eliminera de ekonomiska incitamenten för falska konton.

"Mycket av det skadliga innehållet vi ser, inklusive felaktig information, är i själva verket kommersiellt motiverade, Zuckerberg sa till reportrar. "Så en av de bästa taktikerna är att ta bort incitament för att skapa falska konton uppströms, vilket begränsar innehåll som görs nedströms."

© 2019 AFP