Appar för sociala medier presenterar regelbundet tonåringar med algoritmiskt utvalt innehåll som ofta beskrivs som "för dig", vilket implicit antyder att det kurerade innehållet inte bara är "för dig" utan också "om dig" – en spegel som reflekterar viktiga signaler om personen du är.
Alla användare av sociala medier utsätts för dessa signaler, men forskare förstår att tonåringar befinner sig i ett särskilt formbart stadium i bildandet av personlig identitet. Forskare har börjat visa att teknik har generationsformande effekter, inte bara i hur den påverkar kulturell syn, beteende och integritet, utan också i hur den kan forma personligheten bland dem som föds upp på sociala medier.
Förekomsten av meddelandet "för dig" väcker viktiga frågor om effekterna av dessa algoritmer på hur tonåringar uppfattar sig själva och ser världen, och den subtila urholkningen av deras integritet, som de accepterar i utbyte mot denna syn.
Inspirerade av dessa frågor frågade mina kollegor John Seberger och Afsaneh Razi från Drexel University och jag:Hur navigerar tonåringar i denna algoritmiskt genererade miljö och hur känner de igen sig i spegeln den presenterar?
I vår kvalitativa intervjustudie av tonåringar 13–17 fann vi att personligt anpassat algoritmiskt innehåll verkar presentera vad tonåringar tolkar som en pålitlig spegelbild av sig själva, och att de mycket gillar upplevelsen av att se den reflektionen i sociala medier.
Tonåringar vi pratade med säger att de föredrar ett socialt medium som är helt anpassat för dem, som visar vad de håller med om, vad de vill se och därmed vilka de är.
"Om jag letar upp något som är viktigt för mig som kommer att dyka upp som ett av de bästa inläggen [och] kommer det att visa människor [som jag] som har en trevlig diskussion."
Det visar sig att tonåringarna vi intervjuade tror att sociala mediealgoritmer som TikToks har blivit så bra att de ser reflektionerna av sig själva i sociala medier som ganska korrekta. Så mycket att tonåringar är snabba att tillskriva innehålls inkonsekvenser med sin självbild som anomalier – till exempel resultatet av oavsiktligt engagemang med tidigare innehåll, eller bara ett fel.
"Vid något tillfälle såg jag något om den showen, kanske på TikTok, och jag interagerade med den utan att faktiskt inse det."
När personligt innehåll inte är behagligt eller förenligt med deras självbild säger tonåringarna vi intervjuade att de rullar förbi det i hopp om att aldrig se det igen. Även när dessa upplevda anomalier tar formen av extremt hypermaskulint eller "otäckt" innehåll, tillskriver tonåringar detta inte till någonting om sig själva specifikt, och de hävdar inte heller att de letar efter en förklaring i sina egna beteenden. Enligt tonåringar i våra intervjuer gör inte spegeln i sociala medier dem mer självreflekterande eller utmanar deras självkänsla.
En sak som förvånade oss var att även om tonåringar var medvetna om att det de ser i deras "för dig"-flöde är produkten av deras rullningsvanor på sociala medieplattformar, är de i stort sett omedvetna eller obekymrade om att den data som fångas över appar bidrar till detta själv -bild. Oavsett så ser de inte sitt "för dig"-flöde som en utmaning för deras självkänsla, än mindre en risk för deras självidentitet – inte heller, för den delen, någon grund för oro alls.
Forskning om identitet har kommit långt sedan sociologen Erving Goffman föreslog "presentation of self" 1959. Han menade att människor hanterar sina identiteter genom social prestation för att upprätthålla jämvikt mellan vem de tror att de är och hur andra uppfattar dem.
När Goffman först föreslog sin teori fanns det inget gränssnitt för sociala medier tillgängligt för att hålla upp en praktisk spegel av jaget som andra upplevt. Människor var skyldiga att skapa sin egen mosaikbild, hämtad från flera källor, möten och intryck. Under de senaste åren har algoritmer för rekommendationer för sociala medier infogat sig i vad som nu är en trevägsförhandling mellan sig själv, offentliga och sociala mediers algoritmer.
"För dig"-erbjudanden skapar ett privat-offentligt utrymme genom vilket tonåringar kan få tillgång till vad de tycker är ett i stort sett korrekt test av deras självbild. Samtidigt säger de att de lätt kan ignorera det om det inte stämmer överens med den självbilden.
Den pakt som tonåringar gör med sociala medier, utbyte av personlig information och avstå från integritet för att säkra tillgången till den algoritmiska spegeln, känns för dem som ett bra fynd. De framställer sig själva som att de med säkerhet kan ställa in eller scrolla förbi rekommenderat innehåll som verkar motsäga deras självkänsla, men forskning visar motsatsen.
De har faktiskt visat sig vara mycket sårbara för förvrängning av självbilden och andra psykiska hälsoproblem baserade på sociala mediers algoritmer som uttryckligen utformats för att skapa och belöna överkänslighet, fixering och dysmorfi – en psykisk störning där människor fixerar sig vid sitt utseende.
Med tanke på vad forskare vet om tonårshjärnan och det stadiet av social utveckling – och med tanke på vad som rimligen kan antas om formbarheten av självbild baserat på social feedback – har tonåringar fel att tro att de kan scrolla förbi självidentitetsriskerna med algoritmer.
En del av botemedlet kan vara att bygga nya verktyg med hjälp av artificiell intelligens för att upptäcka osäkra interaktioner samtidigt som integriteten skyddas. Ett annat tillvägagångssätt är att hjälpa tonåringar att reflektera över dessa "datadubblar" som de har konstruerat.
Mina kollegor och jag undersöker nu djupare hur tonåringar upplever algoritmiskt innehåll och vilka typer av interventioner som kan hjälpa dem att reflektera över det. Vi uppmuntrar forskare inom vårt område att utforma sätt att utmana algoritmernas noggrannhet och avslöja dem som reflekterande beteende och inte vara.
En annan del av åtgärden kan innebära att beväpna tonåringar med verktyg för att begränsa åtkomsten till deras data, inklusive att begränsa cookies, ha olika sökprofiler och stänga av plats när du använder vissa appar.
Vi tror att dessa är alla steg som sannolikt minskar algoritmernas noggrannhet, vilket skapar välbehövlig friktion mellan algoritmen och jaget, även om tonåringar inte nödvändigtvis är nöjda med resultaten.
Nyligen genomförde jag och mina kollegor en Gen Z-workshop med ungdomar från Encode Justice, en global organisation av gymnasie- och högskolestudenter som förespråkar säker och rättvis AI. Syftet var att bättre förstå hur de tänker om sina liv under algoritmer och AI.
Gen Zers säger att de är oroliga men också ivriga att vara med och forma sin framtid, inklusive att mildra algoritmskador. En del av vårt workshopmål var att uppmärksamma och främja behovet av tonårsdrivna undersökningar av algoritmer och deras effekter.
Vad forskare också konfronterar är att vi faktiskt inte vet vad det innebär att ständigt förhandla om identitet med en algoritm. Många av oss som studerar tonåringar är för gamla för att ha vuxit upp i en algoritmiskt modererad värld. För de tonåringar vi studerar finns det ingen "före AI."
Jag tror att det är farligt att ignorera vad algoritmer gör. Framtiden för tonåringar kan vara en där samhället erkänner det unika förhållandet mellan tonåringar och sociala medier. Det innebär att involvera dem i lösningarna, samtidigt som de ger vägledning.
Tillhandahålls av The Conversation
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln. 
