Som Facebook -användare runt om i världen börjar förstå, några av deras favorittekniker kan användas mot dem. Det är inte bara skandalen över att det psykologiska profileringsföretaget Cambridge Analytica får tillgång till data från tiotals miljoner Facebook-profiler. Människors filterbubblor är fyllda med noggrant skräddarsydd information - och desinformation - som förändrar deras beteende och tänkande, och till och med deras röster.

Människor, både individuellt och som ett samhälle i stort, brottas för att förstå hur deras nyhetsflöden vände sig mot dem. De börjar inse exakt hur noggrant kontrollerade Facebook-flöden är, med mycket skräddarsydda annonser. Den uppsättningen problem, fastän, bleknar i jämförelse med de som nästa tekniska revolution utgör, som redan är på gång:virtuell verklighet.

Å ena sidan, virtuella världar har nästan obegränsad potential. VR -spel kan behandla drogberoende och kanske hjälpa till att lösa opioidepidemin. Fångarna kan använda VR -simuleringar för att förbereda sig för livet efter att de släppts. Människor tävlar för att komma in i dessa uppslukande upplevelser, som har potential att vara mer psykologiskt kraftfulla än någon annan teknik hittills:Den första moderna utrustningen som erbjuder möjligheten sålde slut på 14 minuter.

I dessa nya världar, varje löv, varje sten på den virtuella marken och varje konversation är noggrant konstruerad. I vår forskning om den framväxande definitionen av etik i virtuell verklighet, mina kollegor och jag intervjuade utvecklarna och tidiga användare av virtuell verklighet för att förstå vilka risker som kommer och hur vi kan minska dem.

Intensiteten kommer att stiga

"VR är en mycket personlig, intim situation. När du bär ett VR-headset ... tror du verkligen på det, det är verkligen uppslukande, " säger en av utvecklarna som vi pratade med. Om någon skadar dig i VR, du kommer att känna det, och om någon manipulerar dig till att tro något, det kommer att fastna.

Denna fördjupning är vad användarna vill ha:"VR handlar verkligen om att bli nedsänkt ... Till skillnad från en TV där jag ständigt kan bli distraherad, " berättade en användare för oss. Att uppslukande är det som ger VR oöverträffad kraft:"verkligen, vad VR försöker göra här är att duplicera verkligheten där den lurar dig."

Dessa knep kan vara roliga – att låta människor flyga helikoptrar eller resa tillbaka till det gamla Egypten. De kan vara till hjälp, erbjuda smärtbehandling eller behandling för psykiska tillstånd.

Men de kan också vara illvilliga. Även ett vanligt skämt som vänner spelar mot varandra online – att logga in och göra inlägg som varandra – kan få en helt ny dimension. En VR-användare förklarar, "Någon kan sätta på sig en VR -huvudenhet och gå in i en virtuell värld antar din identitet. Jag tror att identitetsstöld, om VR blir mainstream, kommer att bli utbredd. "

Uppgifterna blir ännu mer personliga

VR kommer att kunna samla in data på en helt ny nivå. Till synes ofarliga infraröda sensorer utformade för att hjälpa till med åksjuka och justering kan fånga nästan perfekta representationer av användarnas verkliga omgivning.

Ytterligare, data och interaktioner som ger VR kraften att behandla och diagnostisera fysiska och psykiska hälsotillstånd kan användas för att hyperpersonifiera upplevelser och information till individuella användares exakta sårbarheter.

Kombinerad, intensiteten i virtuella verklighetsupplevelser och de ännu mer personliga data de samlar in presenterar spöket av falska nyheter som är mycket kraftfullare än textartiklar och memes. Snarare, uppslukande, personliga upplevelser kan grundligt övertyga människor om helt alternativa verkligheter, som de är helt mottagliga för. Sådana uppslukande VR-annonser är vid horisonten redan i år.

Bygga en virtuell framtid

En person som använder virtuell verklighet är, ofta gärna, kontrolleras i mycket större omfattning än vad som någonsin varit möjligt tidigare. Allt en person ser och hör – och kanske till och med känner eller luktar – är helt skapat av en annan person. Den kapitulationen medför både löfte och fara. Kanske i noggrant konstruerade virtuella världar, människor kan lösa problem som har undvikit oss i verkligheten. Men dessa virtuella världar kommer att byggas in i en verklig värld som inte kan ignoreras.

Medan teknologer och användare rensar upp det skadliga, manipulativt förflutet, de kommer att behöva gå långt utöver att göra sociala medier hälsosammare. Lika noga som utvecklare bygger virtuella världar själva, samhället som helhet måste avsiktligt och mödosamt konstruera den kultur i vilken dessa teknologier existerar.

I många fall, utvecklare är de första allierade i denna kamp. Vår forskning visade att VR-utvecklare var mer oroade över sina användares välbefinnande än användarna själva. Än, en utvecklare medger att "saken är... jag kan räkna på mina fingrar hur många erfarna utvecklare jag faktiskt har träffat." Även experter har bara börjat utforska etik, säkerhet och integritet i virtual reality -scenarier.

Utvecklarna vi pratade med uttryckte en önskan om riktlinjer för var man kan dra gränserna, och hur man förhindrar farliga missbruk av sina plattformar. Som ett första steg, vi bjöd in VR-utvecklare och användare från nio online-communities att arbeta med oss ​​för att skapa en uppsättning riktlinjer för VR-etik. De kom med förslag om inkludering, skydda användare från manipulativa angripare och begränsningar för datainsamling.

Som debaclet med Facebook och Cambridge Analytica visar, fastän, människor följer inte alltid riktlinjerna, eller till och med plattformarnas regler och policyer – och effekterna kan bli desto värre i denna nya VR-värld. Men, vår första framgång med att nå en överenskommelse om VR-riktlinjer fungerar som en påminnelse om att människor kan gå längre än att räkna med den teknik som andra skapar:Vi kan arbeta tillsammans för att skapa nyttiga tekniker som vi vill ha.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.