I takt med att extremistgrupper och randrörelser som QAnon har fått en allmän medvetenhet, har deras förmåga att snabbt sprida desinformation och konspirationer satt sociala medieplattformar under ökad offentlig granskning. Facebook, Twitter och andra teknikföretag har blivit tillrättavisade av både kongressen och media för att inte på allvar ta itu med radikalisering online bland sina användare. I takt med att USA har blivit allt mer politiskt polariserat, har frågan om huruvida dessa plattformars algoritmer – oavsiktligt eller genom design – hjälper användare att upptäcka extremt och vilseledande innehåll blivit mer akut.

Men som Homa Hosseinmardi, Ph.D., påpekar, har en stor plattform överraskande nog fått mindre uppmärksamhet:YouTube. Hosseinmardi, senior forskare och ledande forskare i PennMap-projektet med University of Pennsylvanias Computational Social Science (CSS) Lab – en del av School for Engineering and Applied Sciences, Annenberg School for Communication och Wharton School – noterar att även om det är YouTube, som ofta uppfattas som en underhållningskanal snarare än en nyhetskälla, är kanske den största mediekonsumtionsplattformen i världen.

"YouTube har förbisetts av forskare, eftersom vi inte trodde att det var en plats för nyheter", sa hon. "Men om du tittar på skalan har den mer än två miljarder användare. Om du tar den populationen och multiplicerar den med bråkdelen av nyhetsinnehållet som ses på YouTube inser du att mängden informationskonsumtion på YouTube är mycket mer än på Twitter."

Hosseinmardis forskning drivs av frågor om mänskligt beteende, särskilt i onlineutrymmen. Hennes Ph.D. forskning behandlade trakasserier och mobbning online, särskilt på Instagram och Askfm, ett halvanonymt socialt nätverk. Innan hon kom till Penn var hon postdoktor vid University of Southern California's Information Sciences Institute, där hon studerade personlighet, arbetsprestationer och mental hälsa i arbetsmiljöer med hjälp av anställdas fysiologiska signaler som hjärtslag och andning.

2019 gick hon med i CSSLab, regisserad av Stevens University Professor Duncan Watts. I sitt arbete med labbet använder Hosseinmardi storskalig data och beräkningsmetoder för att få insikter i frågor som mediepolarisering, algoritmiska fördomar och hur sociala nätverk påverkar våra liv.

För flera år sedan blev ett team av forskare inklusive Hosseinmardi och Watts intresserade av sambandet mellan radikalisering på nätet och nyhetskonsumtion på YouTube. I vilken utsträckning främjar YouTubes algoritmer engagemang med starkt partiskt eller radikalt innehåll, och i vilken utsträckning påverkas detta av en individs onlinebeteende?

"Vi har alla hört anekdoter om radikalisering på YouTube - en person tittade på en video och hamnade i en konspirationsteori", säger Hosseinmardi. "Vi insåg att allmänheten uppfattar detta som ett bevis på ett systematiskt problem med algoritmen."

Hon strävar efter att svara på denna fråga:Om folk börjar någonstans på YouTube, efter att ha sett några videor i följd, kommer de att hamna på samma destination?

Teamet testade denna förfrågan genom att studera individuella surfbeteenden, på YouTube och över webben, hos mer än 300 000 amerikaner från januari 2016 till december 2019. De fick också användarnas demografiska data inklusive ålder, kön, ras, utbildning, yrke, inkomst, och politisk lutning, vilket säkerställer ett representativt urval av den amerikanska befolkningen.

I augusti publicerade de sina resultat i Proceedings of the National Academy of Sciences , att finna att den konventionella visdomen inte alltid är rätt.

Forskarna observerade inga bevis för att högerextrema och "anti-woke" innehållsengagemang systematiskt orsakas av YouTubes rekommendationer. Snarare återspeglar det till stor del användarpreferenser och det bredare ekosystemet för onlineinnehåll. Högerextrema innehållskonsumenter kommer via olika vägar som sökmotorer, andra webbplatser och tidigare tittade på videor.

Ändå kvarstår faktum att individer fortsätter att radikaliseras online. Som Hosseinmardi och andra experter ser det är pågående och lösningsorienterad forskning avgörande för att ta itu med denna fråga. I början av november citerades teamets relaterade 2020-studie, "Utvärdering av omfattningen, tillväxten och ursprunget för högerextrema ekokammare på YouTube", i en utfrågning av den amerikanska senatens utskott för hemlandsäkerhet och statliga frågor som undersökte sociala medieplattformars roll i framväxten av inhemsk extremism.

Hosseinmardi och hennes kollegor ser sitt arbete på detta område som ett ständigt pågående arbete. PennMAP, ett tvärvetenskapligt och partipolitiskt forskningsprojekt som drivs av CSSLab, bygger teknik för att utvärdera mediabias och desinformationsmönster över det politiska spektrumet, och för att följa hur informationskonsumtion påverkar individuella och kollektiva övertygelser. Teamet skapar en skalbar datainfrastruktur för att analysera tiotals terabyte av TV-, radio- och webbinnehåll, tillsammans med att studera representativa paneler med cirka 500 000 mediekonsumenter under flera år. De arbetar också med forskare från det schweiziska federala tekniska institutet för att övervaka effekterna av YouTubes policyändringar och de-plattformsavveckling på dess användare på webben och ta reda på om extrem innehållskonsumtion minskar, eller om användarna helt enkelt ersätter YouTube med en annan plattform som är värd för liknande innehåll.

Men, varnar Hosseinmardi, samhällsfrågor kan inte lösas enbart genom politiska reformer. I stor utsträckning speglar plattformar som YouTube offlinevärlden. Desinformation är en del av en större cykel, där partiskt eller vilseledande innehåll kan avhumanisera marginaliserade grupper och minoritetsgrupper, vilket påverkar andras nivåer av empati mot dem i det "verkliga" livet. När desinformation fortsätter att flöda, fortsätter hat och trakasserier att spridas och drabbade grupper blir allt tystare.

I slutändan, betonar Hosseinmardi, är det vårt ansvar att tänka kritiskt på den information vi konsumerar och accepterar som sanning.

"Jag kan inte påstå att det inte finns något fel på någon plattform, men vi ska inte glömma vår roll som samhälle, och att människor med ett visst utseende, eller människor av en viss ras eller religion utsätts för offer", säger hon. "Plattformarna är reflektioner av stora problem i samhället som vi behöver bry oss om mer, jämfört med att bara peka fingrar åt plattformarna. De borde göra sin del, men vi borde göra vår del också."