Ansvaret för att upprätthålla säkerheten på nätet beror på innehållsmoderatorer, särskilt i kristider. Men inte alla plattformar har ens modereringssystem på plats och därför cirkulerar desinformation, desinformation, propaganda och falska nyheter ofta fritt.

Tiden för covid-19-pandemin var ett exempel, men spridningen av falska nyheter sker under tider av politisk förändring och i kölvattnet av andra typer av kriser och socioekonomiska omvälvningar. Det finns dock mycket innehåll på nätet som är olagligt snarare än att bara vara falskt och som måste tas bort summariskt.

Vissa sociala medieplattformar och webbplatser har individer och till och med team som har till uppgift att kontrollera användargenererat innehåll för att säkerställa att det inte strider mot lagen. Elena Martellozzo, Paula Bradbury, Ruth Spence och Jeffrey DeMarco från Middlesex University, London, Storbritannien, och Paul Bleakley från University of New Haven, West Haven, USA, påpekar att det under och efter covid-19-pandemin var en ökning i mängden olagligt innehåll.

De rapporterar detaljer om sina resultat och konsekvenserna i International Journal of Technology, Policy and Management .

Forskarna har tittat på innehållsmoderatorernas erfarenheter under denna period och deras resultat ger nya insikter om hur denna viktiga onlineroll kan påverka moderatorernas mentala välbefinnande. Faktum är att den uppåtgående trenden av olagligt material som delas online, förvärrad av låsningsåtgärder under pandemin, satte innehållsmoderatorerna under enorm press.

Det fanns en ökad risk för personlig utbrändhet, psykiska problem och till och med trauma när det gällde vissa typer av olagligt innehåll som krävde moderering. De nya resultaten tyder på att det finns ett akut behov av att förbättra arbetsförhållandena och personalsäkerheten för sådana moderatorer.

Lärdomar från pandemin bör erbjuda tjänsteleverantörer och deras personal, inklusive deras innehållsmoderatorer, användbar vägledning för att förbättra arbetsförhållandena. Arbetsgivare måste prioritera psykisk hälsastöd, skälig ersättning och omfattande utbildning, föreslår forskningen. Detta är särskilt viktigt med tanke på den roll som innehållsmoderatorer spelar för att hjälpa till att ta bort olagligt innehåll från internet.

Forskarna tillägger att tydlig kommunikation, professionella utvecklingsmöjligheter och skräddarsydda stödmekanismer, särskilt för dem som arbetar på distans eller i en hybrid arbetsmiljö, är viktiga överväganden för arbetsgivare och tjänsteleverantörer.

Mer information: Elena Martellozzo et al, Stödja digitala nyckelarbetare:ta itu med utmaningarna som innehållsmoderatorer står inför under och efter covid-19-pandemin, International Journal of Technology, Policy and Management (2024). DOI:10.1504/IJTPM.2024.137818

Journalinformation: International Journal of Technology, Policy and Management

Tillhandahålls av Inderscience