Det första steget i att genomföra online -propagandansträngningar och desinformationskampanjer är nästan alltid en falsk profil på sociala medier. Falska profiler för obefintliga människor maskar sig in i verkliga människors sociala nätverk, där de kan sprida sina lögner. Men varken sociala medieföretag eller tekniska innovationer erbjuder tillförlitliga sätt att identifiera och ta bort sociala medieprofiler som inte representerar verkliga autentiska personer.

Det kan låta positivt att över sex månader i slutet av 2017 och början av 2018, Facebook upptäckte och stängde av cirka 1,3 miljarder falska konton. Men uppskattningsvis 3 till 4 procent av konton som återstår, eller cirka 66 miljoner till 88 miljoner profiler, är också falska men har ännu inte upptäckts. Likaså, uppskattningar är att 9 till 15 procent av Twitters 336 miljoner konton är falska.

Falska profiler finns inte bara på Facebook och Twitter, och de riktar sig inte bara till människor i USA i december 2017, Tyska underrättelsetjänstemän varnade för att kinesiska agenter som använder falska LinkedIn-profiler riktade in sig på mer än 10, 000 tyska statsanställda. Och i mitten av augusti, den israeliska militären rapporterade att Hamas använde falska profiler på Facebook, Instagram och WhatsApp för att få israeliska soldater att ladda ner skadlig programvara.

Även om företag i sociala medier har börjat anställa fler och använda artificiell intelligens för att upptäcka falska profiler, det räcker inte för att granska varje profil i tid för att stoppa deras missbruk. Som min forskning utforskar, problemet är faktiskt inte att människor – och algoritmer – skapar falska profiler online. Vad som verkligen är fel är att andra människor faller för dem.

Min forskning om varför så många användare har problem med att upptäcka falska profiler har identifierat några sätt som människor kan bli bättre på att identifiera falska konton – och lyfter fram några platser som teknikföretag kan hjälpa.

Folk faller för falska profiler

För att förstå sociala medieanvändares tankeprocesser, Jag skapade falska profiler på Facebook och skickade ut vänförfrågningar till 141 studenter på ett stort universitet. Var och en av de falska profilerna varierade på något sätt - som att ha många eller få falska vänner, eller om det fanns ett profilfoto. Tanken var att ta reda på om en eller annan typ av profil var mest framgångsrik i att bli accepterad som en anslutning av riktiga användare – och sedan undersöka de lurade människorna för att ta reda på hur det gick till.

Jag upptäckte att endast 30 procent av de riktade personerna avvisade begäran från en falsk person. Vid undersökning två veckor senare, 52 procent av användarna övervägde fortfarande att godkänna begäran. Nästan var femte – 18 procent – ​​hade accepterat begäran direkt. Av dem som accepterade det, 15 procent hade svarat på förfrågningar från den falska profilen med personlig information som sin hemadress, deras studentidentifikationsnummer, och deras tillgänglighet för en deltidspraktik. Ytterligare 40 procent av dem övervägde att avslöja privata uppgifter.

Men varför?

När jag intervjuade de riktiga människorna som mina falska profiler hade riktat in sig på, det viktigaste jag hittade var att användarna i grunden tror att det finns en person bakom varje profil. Folk berättade att de hade trott att profilen tillhör någon de känner, eller möjligen någon som en vän kände. Inte en person har någonsin misstänkt att profilen var ett fullständigt påhitt, uttryckligen skapat för att lura dem. Att felaktigt tro att varje vänförfrågan har kommit från en riktig person kan få människor att acceptera vänförfrågningar helt enkelt för att vara artiga och inte såra någon annans känslor – även om de inte är säkra på att de känner personen.

Dessutom, nästan alla sociala medier-användare bestämmer sig för om de ska acceptera en anslutning baserat på några nyckelelement i förfrågarens profil – främst hur många vänner personen har och hur många ömsesidiga kopplingar det finns. Jag upptäckte att människor som redan har många kontakter är ännu mindre kräsna, godkänner nästan alla förfrågningar som kommer in. Så till och med en helt ny profil får några offer. Och med varje ny anslutning, den falska profilen verkar mer realistisk, och har fler gemensamma vänner med andra. Denna kaskad av offer är hur falska profiler får legitimitet och blir utbredda.

Spridningen kan vara snabb eftersom de flesta sociala medier är utformade för att få användare att komma tillbaka, vanligtvis kontrollera aviseringar och svara omedelbart på anslutningsförfrågningar. Den tendensen är ännu mer uttalad på smartphones – vilket kan förklara varför användare som använder sociala medier på smartphones är betydligt mer benägna att acceptera falska profilförfrågningar än användare av stationära eller bärbara datorer.

Illusioner om säkerhet

Och användare kanske tror att de är säkrare än de faktiskt är, felaktigt antar att en plattforms sekretessinställningar kommer att skydda dem från falska profiler. Till exempel, många användare berättade att de tror att Facebooks kontroller för att ge olika åtkomst till vänner kontra andra också skyddar dem från förfalskare. Likaså, många LinkedIn-användare sa också till mig att de tror att eftersom de bara publicerar professionell information, de potentiella konsekvenserna av att acceptera oseriösa anslutningar på den är begränsade.

Men det är ett felaktigt antagande:hackare kan använda all information som hämtas från vilken plattform som helst. Till exempel, helt enkelt att veta på LinkedIn att någon arbetar på något företag hjälper dem att skapa e -postmeddelanden till personen eller andra på företaget. Vidare, användare som slarvigt accepterar förfrågningar under förutsättning att deras integritetskontroller skyddar dem i fara för andra anslutningar som inte har satt sina kontroller så höga.

Söker lösningar

Att använda sociala medier på ett säkert sätt innebär att lära sig hur man upptäcker falska profiler och använder sekretessinställningar på rätt sätt. Det finns många onlinekällor för råd – inklusive plattformarnas egna hjälpsidor. Men för ofta lämnas det åt användarna att informera sig själva, vanligtvis efter att de redan har blivit offer för en bedrägeri på sociala medier – som alltid börjar med att acceptera en falsk förfrågan.

Vuxna bör lära sig – och lära barn – hur man granskar anslutningsförfrågningar noggrant för att skydda sina enheter, profiler och inlägg från nyfikna ögon, och sig själva från att bli manipulerade av uppsåt. Det inkluderar att granska anslutningsförfrågningar under distraktionsfria perioder på dagen och använda en dator snarare än en smartphone för att kolla eventuella anslutningar. Det innebär också att identifiera vilka av deras faktiska vänner som tenderar att acceptera nästan varje vänförfrågan från någon, gör dem till svaga länkar i det sociala nätverket.

Det här är platser som företag inom sociala medier kan hjälpa till. De skapar redan mekanismer för att spåra appanvändning och för att pausa aviseringar, hjälpa människor att undvika att bli översvämmade eller att ständigt behöva reagera. Det är en bra början - men de kan göra mer.

Till exempel, sociala medier kan visa användarna indikatorer på hur många av deras anslutningar som är inaktiva under långa perioder, hjälpa människor att rensa sina vännätverk då och då. De kan också visa vilka kontakter som plötsligt har fått ett stort antal vänner, och vilka som accepterar ovanligt höga andelar vänförfrågningar.

Sociala medieföretag måste göra mer för att hjälpa användare att identifiera och rapportera potentiellt falska profiler, utöka sin egen personal och automatiserade insatser. Sociala medier måste också kommunicera med varandra. Många falska profiler återanvänds på olika sociala nätverk. Men om Facebook blockerar en falskare, Twitter kanske inte. När en webbplats blockerar en profil, den ska skicka nyckelinformation – som profilens namn och e-postadress – till andra plattformar så att de kan undersöka och eventuellt blockera bedrägeriet även där.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.