Tidigare den här månaden meddelade Meta att de arbetar på en uppsättning etiska riktlinjer för "virtuella influencers" - animerade, typiskt datorgenererade karaktärer utformade för att locka uppmärksamhet på sociala medier.

När Facebook döpte om sig själv till Meta i slutet av förra året, förebådade det en pivot mot "metaversen" – där virtuella influencers förmodligen en dag kommer att ströva omkring i tusentals.

Även Meta medger att metaversen inte riktigt existerar ännu. Byggstenarna i en beständig, uppslukande virtuell verklighet för allt från företag till lek är ännu inte färdigmonterade. Men virtuella influencers är redan online och är förvånansvärt övertygande.

Men med tanke på dess senaste historia, är Meta (född Facebook) verkligen rätt företag för att sätta de etiska standarderna för virtuella influencers och metaversen mer allmänt?

Vem (eller vad) är virtuella influencers?

Metas tillkännagivande noterar det "stigande fenomenet" av syntetiska medier - en paraplyterm för bilder, video, röst eller text som genereras av datoriserad teknik, vanligtvis med hjälp av artificiell intelligens (AI) eller automatisering.

Många virtuella influencers införlivar element av syntetiska medier i sin design, allt från helt digitalt renderade kroppar, till mänskliga modeller som är digitalt maskerade med karaktärers ansiktsdrag.

I båda ändarna av skalan är denna process fortfarande starkt beroende av mänskligt arbete och input, från art direction för fotograferingar till att skriva bildtexter för sociala medier. Precis som Metas vision om metaversen är influencers som helt genereras och drivs av AI en till stor del futuristisk fantasi.

Men även i sin nuvarande form är virtuella influencers av stort värde för Meta, både som attraktioner för deras befintliga plattformar och som avatarer för metaversen.

Intresset för virtuella influencers har snabbt expanderat under de senaste fem åren, och lockat till sig en enorm publik på sociala medier och partnerskap med stora varumärken, inklusive Audi, Bose, Calvin Klein, Samsung och den kinesiska e-handelsplattformen TMall.

En konkurrenskraftig bransch specialiserad på produktion, förvaltning och marknadsföring av virtuella influencers har redan vuxit fram, även om den i stort sett fortfarande är oreglerad.

Hittills är Indien det enda landet som tilltalar virtuella influencers i nationella reklamstandarder, vilket kräver att varumärken "avslöjar för konsumenterna att de inte interagerar med en riktig människa" när de lägger upp sponsrat innehåll.

Etiska riktlinjer

Det finns ett akut behov av etiska riktlinjer, både för att hjälpa producenter och deras varumärkespartners att navigera i denna nya terräng, och ännu viktigare för att hjälpa användare att förstå innehållet de engagerar sig i.

Meta har varnat för att "syntetiska medier har potential för både gott och skada", och listar "representation och kulturell tillägnelse" som specifika problem av oro.

Faktum är att, trots sin korta livslängd, har virtuella influencers redan en historia av öppen rasifiering och felaktig framställning, vilket väcker etiska frågor för producenter som skapar digitala karaktärer med andra demografiska egenskaper än de själva.

Men det är långt ifrån klart om Metas föreslagna riktlinjer kommer att behandla dessa frågor adekvat.

Becky Owen, chef för kreatörsinnovation och lösningar på Meta Creative Shop, sa att det planerade etiska ramverket "kommer att hjälpa våra varumärkespartners och VI-skapare att utforska vad som är möjligt, troligt och önskvärt, och vad som inte är det."

Denna till synes betoning på tekniska möjligheter och varumärkespartners önskemål leder till ett oundvikligt intryck av att Meta återigen blandar ihop kommersiell potential med etisk praxis.

Enligt egen räkning är Metas plattformar redan värd för mer än 200 virtuella influencers. Men virtuella influencers finns på andra håll också:de gör virala dansutmaningar på TikTok, laddar upp vloggar till YouTube och postar livsuppdateringar på Sina Weibo. De visas "offline" i gallerior i Peking och Singapore, på 3D-skyltar i Tokyo och spelar huvudroller i tv-reklam.

Väktvakt eller tjuvskytt?

Detta för oss tillbaka till frågan om Meta är rätt företag att sätta grundreglerna för detta framväxande utrymme.

Företagets historia är täckt av oetiskt beteende, från Facebooks tvivelaktiga början i Mark Zuckerbergs studentrum på Harvard (som avbildas i The Social Network) till storskaliga integritetsbrister som visades i Cambridge Analytica-skandalen.

I februari 2021 visade Facebook hur långt man var villig att gå för att försvara sina intressen, när man en kort stund förbjöd allt nyhetsinnehåll på Facebook i Australien för att tvinga den federala regeringen att urvattna den australiska nyhetsmediernas förhandlingskod.

Förra året blev även den tidigare Facebook-chefen Frances Haugen mycket offentligt visslare och delade en mängd interna dokument med journalister och politiker.

Dessa så kallade "Facebook Papers" väckte många farhågor om företagets beteende och etik, inklusive avslöjandet att Facebooks egen interna forskning visade att Instagram kan skada unga människors psykiska hälsa, till och med leda till självmord.

Idag kämpar Meta mot amerikanska antitrusttvister som syftar till att begränsa företagets monopol genom att potentiellt tvinga det att sälja viktiga förvärv, inklusive Instagram och WhatsApp.

Samtidigt försöker Meta integrera sin meddelandetjänst i alla tre apparna, vilket i praktiken gör dem till olika gränssnitt för en delad backend som Meta utan tvekan kommer att hävda att det inte är möjligt att separera, oavsett resultatet av den aktuella rättstvisten.

Med tanke på denna bakgrundshistoria verkar Meta långt ifrån det ideala valet som etisk väktare av metaversen.

Den redan omfattande distributionen av virtuella influencers över plattformar och marknader belyser behovet av etiska riktlinjer som går utöver ett företags intressen – särskilt ett företag som kommer att vinna så mycket på det förestående spektaklet.