Den senaste fotoappville kan få dig att se ut som en filmstjärna. Zao använder artificiell intelligens för att ersätta ansiktena på karaktärer i film- eller tv-klipp med bilder på alla vars foto du laddar upp till appen.

Effekten är häpnadsväckande realistisk och visar hur långt den här typen av "deepfake"-teknik har kommit. Men det visar också hur stora riskerna har blivit med att göra dina foton tillgängliga online där vem som helst kan använda eller missbruka dem – och lagens begränsningar när det gäller att hantera detta problem.

Ett av de viktigaste problemen är den juridiska rättigheten som företag har att använda dina foton när du laddar upp dem till sina appar eller webbplatser. Flera media rapporterar att Zaos villkor initialt gav det "gratis, oåterkallelig, permanent, överförbar, och återlicenserbara" rättigheter. En motreaktion mot detta har nu drivit företaget som tillverkar appen, Momo Inc, att ändra dess villkor. Den säger att den inte kommer att använda headshots eller videor som laddats upp av användare förutom för att förbättra appen och kommer inte att lagra bilder om användare tar bort dem från sina konton.

Men många andra fotoapplikationer, såsom ålders- eller könsföränderlig FaceApp, behålla liknande rättigheter att effektivt göra vad de vill med det uppladdade innehållet. Med "en evighet, oåterkallelig, icke-exklusiv, vinstfri, över hela världen, full lön, överlåtbar underlicenserbar licens, " FaceApp får i princip alla den ursprungliga ägarens rättigheter till fotot (förutom att det inte har en exklusiv licens).

Dessa termer skiljer sig inte från dem för ännu mer populära och vanliga appar som Instagram, som öppnar sitt fotoflöde för annonsörer. Instagram kan låta andra företag utnyttja användarnas bilder utan någon ersättning och vidare överföra denna rättighet till tredje part utan ytterligare tillstånd.

Och, självklart, du behöver inte ens ge tillåtelse för att någon ska kunna använda dina bilder för att de ska göra det ändå. När de väl är online, dina bilder kan cirkuleras utan din vetskap. Studier har visat att människors förståelse av sekretessinställningar på nätet fortfarande är i stort sett begränsad. Om integritetsinställningarna inte räcker, vem som helst kunde komma åt dina bilder.

Detta kan innefatta journalister, som kan återpublicera bilder från sociala medier utan att nödvändigtvis bryta mot integritetslagar om bilderna redan har hamnat i allmän egendom. Foton är fortfarande skyddade av upphovsrättslagen, men bilder tagna från videor kan ibland publiceras under bestämmelser om "fair dealing". Det är inte heller ovanligt att journalister använder skärmdumpar av webbsidan där en bild publiceras, som publikationen inte automatiskt skulle behöva ta bort om en användare raderade originalfotot.

Utvecklingen av AI gör de potentiella konsekvenserna av att ge upp kontrollen över dina bilder ännu större. Den deepfake-teknik som används av Zao och andra appar kan skapa manipulerade foton och videor som är mycket svåra att avgöra från verkligheten.

Detta har redan lett till djupfalsk pornografi, vilket innebär att lägga någons ansikte på explicita bilder med hjälp av en AI-baserad syntesteknik. Denna typ av övergrepp online kan utsätta offer för ekonomisk eller känslomässig utpressning och i slutändan orsaka dem allvarlig psykisk och känslomässig skada.

Rättslig prövning

Om du upptäcker att din bild har använts på sätt som du aldrig velat, hur kan lagen hjälpa? Om det bara handlar om att bilden har använts inom de villkor som du samtyckte till (och inga andra lagar har brutits), du har förmodligen inte mycket tillvägagångssätt. Enligt EU:s "rätt att bli glömd, " du kan be om att dina foton raderas från ett företags servrar så att de inte kan använda dem ytterligare, även om detta inte är en absolut rättighet.

Men tillkomsten av AI-appar skapar ett annat problem. Medan ett företag kan ta bort dina bilder från sina servrar, det kan vara omöjligt att ta bort relaterade data från AI-programvara som har bearbetat och lärt sig av bilderna. Denna data kan vara otillgänglig, men den kan inte "glömmas".

Det finns andra sätt på vilka lagen verkar i otakt med utvecklingen av AI-förändrade bilder, särskilt när de används i kränkande och kränkande syften. I UK, den senaste lagen som är inriktad på "hämndpornografi" gäller endast privata sexuella bilder, som kanske inte inkluderar icke-privata fotografier som överförts till en sexuell bild av en annan person.

Det kan finnas andra alternativ för dem som faller offer för skapandet av djupfalsk pornografi. Det faktum att människor har dömts för att ha lagt ut andras bilder på pornografiska webbplatser visar att lagen om trakasserier också kan åberopas under vissa omständigheter. Det kan också vara möjligt att göra anspråk på missbruk av privat information, förtal eller brott mot upphovsrätten.

Om någon lurar dig att ge åtkomst till din sociala medieprofil och ta bilder för att skapa falska pornografiska bilder, du kan också anlita dataskyddslagstiftning. Men det är tveksamt om civilrättsliga åtgärder som ärekränkning eller integritet på ett lämpligt sätt erkänner den skada som kan göras med djupförfalskningar på ett sätt som en specifik åtal skulle göra – och ännu finns ingen sådan anklagelse.

Tillkomsten av sociala medier har i grunden utmanat våra förväntningar på hur vi kontrollerar våra fotografier. Det nuvarande lapptäcket av rättsliga bestämmelser måste ses över för att överväga de framväxande sätten bilder skapas och delas utan ämnets medgivande, så att dessa frågor behandlas bredare med en bestående effekt. Tillsammans med ett nytt regelverk för onlinesäkerhet, användare måste utbildas för att inse risker med onlineaktivitet och navigera online på ett ansvarsfullt sätt.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.