Facebook är i krisläge, men företaget kan ta stora steg för att fixa sig självt – och det globala samhället som det säger sig vilja främja. Facebooks grundare, VD och majoritetsägare Mark Zuckerberg behöver inte vänta på att regeringar ska införa regler. Om han och andra branschledare ville, de kunde göra meningsfulla förändringar ganska snabbt.

Det skulle inte vara smärtfritt, men i synnerhet Facebook befinner sig redan i en värld av skada, möter kritik för att ha bidragit till civila oroligheter och sekteristisk turbulens runt om i världen, försenade svar på desinformationskampanjer, vilseleda användare om policyer för datahantering, och ansträngningar att misskreditera kritiker – för att inte tala om en spirande medarbetarrevolt.

Facebook, Twitter, Google och andra sociala medieföretag orsakar samhällsomfattande skada. Men de tenderar att beskriva problemen som mycket mindre, resultatet av oseriösa individer och grupper som kapar sina system i skändliga syften. Vår forskning om hur sociala medier kan utnyttjas av manipulativa politiska operatörer, genomförd med Joan Donovan vid forskningsinstitutet Data &Society, antyder att det verkliga problemet är mycket större än vad dessa företag medger.

Vi tror att rötterna ligger i deras extremt lönsamma reklamsystem, som behöver en rejäl översyn. Vi har identifierat några viktiga förändringar som dessa gigantiska kraftpaket kan göra direkt. Dessa drag kan minska möjligheterna till politisk manipulation och begränsa skadorna på demokratiska samhällen runt om i världen.

Användarnas sinnen i korset

Facebook, Google, Twitter och andra sociala medieföretag har byggt en enorm digital påverkansmaskin som drivs av användarspårning, inriktning, testning och automatiserat beslutsfattande för att göra reklam mer effektiv och effektiv. När du bygger detta överladdade övervakningssystem, företag har lovat användare och tillsynsmyndigheter att riktad reklam är ömsesidigt fördelaktigt för både konsumenter och annonsörer.

I detta fynd, användare ska få mer relevanta annonser. Facebook, till exempel, förklarar att dess "intressebaserade annonsering" betjänar användare som "vill se annonser som relaterar till saker de bryr sig om." Det är sant att dessa metoder kan identifiera annonser som ansluter till användarnas faktiska intressen. Men samma datadrivna tekniker som berättar för en surfare om en ny bräddesign kan också identifiera strategiska punkter där människor är mest sårbara för påverkan.

Särskilt, de ledande reklamsystemen på sociala medier låter politiska agenter experimentera med olika annonser för att se vilka som är mest effektiva. De kan använda dessa verktyg inte bara för att se om vissa frågor resonerar med särskilda mål utan också testa för rädslor eller fördomar som kan åberopas för att påverka politiskt beteende.

Ett viktigt sätt att göra detta är att få människor att känna att någon annan representerar ett känslomässigt laddat hot mot deras identitet. 2016, till exempel, Operatörer med anknytning till Ryssland köpte tusentals Facebook-annonser riktade till specifika målgrupper och antydde att Hillary Clinton hade förolämpat sin grupps värdighet eller hotat deras säkerhet. Vissa annonser påstod att Clinton förespråkade respektlöshet för specifika yrken, som kolgruvarbetare, eller rasgrupper, som afroamerikaner. Andra hävdade att hon skulle konfiskera vapen eller stödde radikala politiska rörelser som försökte störta välbekanta livsstilar.

Inriktning på politiska annonser är inte unikt för onlineannonsering, men verktygen i digitala annonssystem är mycket kraftfullare än traditionella massmedier. Annonsörer kan prova flera versioner av en annons samtidigt och få nästan omedelbar feedback om vilka som mest effektivt driver specifika målgrupper att dela, gilla eller kommentera dem. Denna digitala återkopplingsslinga hjälper politiska operatörer att förfina sin taktik, söka efter precis rätt bilder, ord och känslor för att påverka mycket specifika undergrupper av medborgare.

Gå snabbt och fixa saker

Kongressmedlemmar och till och med några nyckelpersoner i Silicon Valley har börjat diskutera behovet av strängare statlig tillsyn och större ansvarsskyldighet i digital reklam. Förändring behöver inte vänta på politiken.

Baserat på vår analys, här är några steg som företag kan ta direkt – på egen hand. Dessa åtgärder kan skada företagens ekonomi, men skulle visa ett seriöst och varaktigt engagemang för att begränsa deras plattformars användbarhet i politiska manipulationskampanjer.

Som deras första drag, sociala medieföretag kan sluta tillåta att deras annonstjänster används som experimentella laboratorier för att undersöka sina användares psyke. Precis som marknadsförare och akademiska forskare måste få tillstånd från sina testpersoner, politiska annonsörer som kör annonsexperiment online kan få informerat samtycke i förväg från varje användare som är inblandad. Företag bör be om användarnas samtycke i specifika meddelanden om annonsexperiment och inte straffa användare för att de väljer bort dem genom att begränsa deras åtkomst till tjänster. Vi misstänker att många användare skulle välja bort dessa tester om de fick välja, men i vilket fall som helst skulle denna policy hjälpa till att uppmärksamma allmänheten på de dolda manipulationsverktyg som plattformarna erbjuder sina verkliga kunder:de politiska och kommersiella annonsörerna som betalar räkningarna.

Gör riktad politisk reklam transparent

Att öka transparensen och begränsa särintressens möjlighet att i hemlighet påverka politiken, sociala medieföretag skulle kunna vägra att arbeta med så kallade mörka pengar-grupper. Alla politiska annonsörer bör åläggas att avslöja sina största givare i ett format som användarna enkelt kan komma åt.

En ny policy som förbjuder mörka pengar-annonser skulle svara på bevis på att politiska agenter har använt identitetsstöld och manipulativa reklamtaktik för att väcka stridigheter eller så splittring mellan koalitioner av deras motståndare. Personifiering fungerar helt klart bäst när annonssponsorer kan dölja sina identiteter och motiv. Anonyma annonser är också mer benägna att bryta mot etiska normer helt enkelt för att ingen fruktar att bli ansvarig för dem.

Gör plattformar mer demokratiska

En mer betydande förändring sociala medieföretag skulle kunna göra skulle vara att införa demokratisk tillsyn över hur de samlar in och använder människors data.

Facebooks Zuckerberg tog nyligen ett första steg i denna riktning, meddelar att han kommer att skapa oberoende granskningspaneler för att hantera användarnas överklaganden mot företagets borttagning av innehåll som det bedömer som olämpligt. Han förklarade att han ville se till att "dessa beslut fattas i vårt samhälles bästa intresse och inte av kommersiella skäl."

Vad du än tycker om den här planen – och den har mötts med mycket skepsis – erkänner Zuckerbergs resonemang att eftersom sociala plattformar har blivit så centrala i det demokratiska livet, deras egen politik och designbeslut kräver demokratiskt ansvar.

En mer ambitiös vision skulle låta oberoende etikpaneler som representerar olika grupper av användare fastställa verkställbara policyer för etisk politisk reklam. Liknande typer av grupper är vanliga inom medicin och dyker upp inom artificiell intelligens, bland andra områden. Detaljerna om hur sådana kommittéer fungerar kommer att vara avgörande för deras framgång. Om dessa kommittéer inrättas i partnerskap med ideella organisationer med bevisade erfarenheter av att förespråka demokratisk kommunikation och insyn i kampanjfinansiering, kanske skulle de kunna hjälpa sociala medieföretag att vinna större allmänhetens förtroende genom att prioritera demokrati framför att maximera sina vinster.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.