Fem år sedan Brexit-omröstningen och tre sedan Cambridge Analytica-skandalen, vi är nu bekanta med den roll som riktad politisk reklam kan spela för att uppmuntra polarisering. Det avslöjades 2018 att Cambridge Analytica hade använt data från 87 miljoner Facebook-profiler, utan användarnas samtycke, för att hjälpa Donald Trumps valkampanj 2016 att rikta in sig på nyckelväljare med onlineannonser.

Under åren sedan, vi har lärt oss hur den här typen av riktade annonser kan skapa politiska filterbubblor och ekokammare, misstänkt för att splittra människor och öka spridningen av skadlig desinformation.

Men den stora majoriteten av annonserna som utbyts online är kommersiella, inte politiskt. Kommersiell riktad reklam är den primära inkomstkällan i internetekonomin, men vi vet lite om hur det påverkar oss. Vi vet att våra personuppgifter samlas in för att stödja riktad reklam på ett sätt som kränker vår integritet. Men bortsett från integritetsskäl, hur annars kan inriktning skada oss – och hur kan dessa skador förebyggas?

Dessa frågor motiverade vår senaste forskning. Vi upptäckte att riktad onlineannonsering också splittrar och isolerar oss genom att hindra oss från att kollektivt flagga annonser som vi protesterar mot. Vi gör detta i den fysiska världen (kanske när vi ser en annons vid en busshållplats eller tågstation) genom att varna tillsynsmyndigheter om skadligt innehåll. Men onlinekonsumenter är isolerade eftersom informationen de ser är begränsad till vad som är riktat mot dem.

Tills vi åtgärdar denna brist, förhindra riktade annonser från att isolera oss från feedback från andra, tillsynsmyndigheter kommer inte att kunna skydda oss från onlineannonser som kan orsaka oss skada.

På grund av den stora mängden annonser som utbyts online, mänskliga handledare kan inte kontrollera varje kampanj. Så alltmer, maskininlärningsalgoritmer granskar innehållet i annonser, förutsäga sannolikheten att de kan vara skadliga eller misslyckas med att uppfylla standarder. Men dessa förutsägelser kan vara partiska, och de förbjuder vanligtvis bara de tydligaste överträdelserna. Bland de många annonser som klarar dessa kontroller, en betydande del innehåller fortfarande potentiellt skadligt innehåll.

Traditionellt, myndigheterna för reklamstandarder har tagit ett reaktivt tillvägagångssätt för att reglera reklam, förlitar sig på konsumentklagomål. Ta 2015 års fall av Protein Worlds "Beach Body"-kampanj, som visades över Londons tunnelbana på skyltar med en bikini-klädd modell bredvid orden:"Är du strandkropp redo?" Många pendlare klagade, säger att det främjar skadliga stereotyper. Kort efter, annonsen förbjöds och en offentlig undersökning av socialt ansvarsfull reklam inleddes.

Reglera annonser

Fallet Protein World illustrerar hur regulatorer fungerar. Eftersom de svarar på konsumentklagomål, Tillsynsmyndigheten är öppen för att överväga hur annonser strider mot upplevda sociala normer. När sociala normer utvecklas över tiden, detta hjälper tillsynsmyndigheter att hålla jämna steg med vad allmänheten anser vara skadligt.

Konsumenter klagade på annonsen för att de kände att den främjade och normaliserade ett skadligt budskap. Men det rapporterades att endast 378 pendlare lämnade in klagomål till tillsynsmyndigheten, av de hundratusentals som sannolikt har sett dem. Detta väcker frågan:hur är det med alla andra? Om kampanjen hade ägt rum online, människor skulle inte ha sett affischer försämrade av missnöjda pendlare och de kanske inte har blivit uppmanade att ifrågasätta budskapet.

Protein Worlds kontroversiella Are You Beach Body Ready? annonsen kan inte visas i sin nuvarande form http://t.co/CVdVCqLDJQ pic.twitter.com/TCfPKTKqyU

— British Vogue (@BritishVogue) 30 april, 2015

Vad mer, om annonsen kunde ha riktats mot bara den delmängd av konsumenter som är mest mottagliga för dess budskap, de kanske inte har framfört några klagomål. Som ett resultat, det skadliga budskapet skulle ha förblivit oemotsagt, missar en möjlighet för tillsynsmyndigheten att uppdatera sina riktlinjer i enlighet med gällande sociala normer.

Ibland är annonser skadliga i ett specifikt sammanhang, som när annonser för livsmedel med högt fettinnehåll riktar sig till barn, eller när spelannonser riktar sig till dem som lider av ett spelberoende. Riktade annonser kan också skada genom utelämnande. Det här är fallet, till exempel, om annonser för skor tränger bort jobbannonser eller folkhälsomeddelanden som någon kanske tycker är mer användbara eller till och med livsviktiga.

Dessa fall kan beskrivas som kontextuella skador:de är inte knutna till specifikt innehåll, utan beror snarare på i vilket sammanhang annonsen presenteras för konsumenten.

Maskininlärningsalgoritmer är dåliga på att identifiera kontextuella skador. Tvärtom, hur inriktning fungerar förstärker dem faktiskt. Flera revisioner, till exempel, har avslöjat hur Facebook har tillåtit diskriminerande inriktning som förvärrar socioekonomiska ojämlikheter.

Gräver djupare

Grundorsaken till alla dessa problem kan spåras till det faktum att konsumenter har en mycket isolerad upplevelse online. Vi kallar detta ett tillstånd av "epistemisk fragmentering", där den information som är tillgänglig för varje individ är begränsad till vad som är inriktat på dem, utan möjlighet att jämföra med andra i ett delat utrymme som Londons tunnelbana.

På grund av personlig inriktning, var och en av oss ser olika annonser. Detta gör oss mer sårbara. Annonser kan spela på våra personliga sårbarheter, eller så kan de undanhålla oss möjligheter som vi aldrig visste fanns. Eftersom vi inte vet vad andra användare ser, vår förmåga att se upp för andra utsatta människor är också begränsad.

För närvarande, Tillsynsmyndigheter antar en kombination av två strategier för att möta dessa utmaningar. Först, vi ser ett ökande fokus på att utbilda konsumenter för att ge dem "kontroll" över hur de riktar sig till dem. Andra, det finns en skjuts mot att proaktivt övervaka annonskampanjer, automatisera screeningmekanismer innan annonser publiceras online. Båda dessa strategier är för begränsade.

Istället, vi bör fokusera på att återställa konsumenternas roll som aktiva deltagare i regleringen av onlineannonsering. Detta kan uppnås genom att avtrubba precisionen i inriktningskategorier, genom att införa målkvoter, eller genom att helt förbjuda inriktning. Detta skulle säkerställa att åtminstone en del av onlineannonserna ses av fler olika konsumenter, i ett delat sammanhang där invändningar mot dem kan framföras och delas.

I kölvattnet av Cambridge Analytica-skandalen, ansträngningar gjordes av valkommissionen för att prissätta den dolda världen av riktade politiska annonser inför valet i Storbritannien 2019. Vissa programföretag bad sin publik att skicka in riktade annonser i sina sociala medier, för att dela dem med en bredare publik. Kampanjgrupper och akademiker kunde analysera inriktningskampanjer mer i detalj, exponering där annonser kan vara skadliga eller osanna.

Dessa strategier kan också användas för kommersiell riktad reklam, vilket skulle bryta den epistemiska fragmentering som för närvarande hindrar oss från att kollektivt reagera på skadliga reklam. Vår forskning visar att det inte bara är politisk inriktning som orsakar skada – kommersiell inriktning kräver också vår uppmärksamhet.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.