För några korta år sedan, personliga digitala assistenter som Amazons Alexa, Apples Siri och Google Assistant lät futuristiskt. Nu, framtiden är här och denna framtid är inbäddad, utökad och allestädes närvarande.

Digitala assistenter finns på ditt kontor, Hem, bil, hotell, telefon och många andra ställen. De har nyligen genomgått massiv transformation och körs på operativsystem som drivs av artificiell intelligens (AI). De observerar och samlar in data i realtid och har förmågan att hämta information från olika källor som smarta enheter och molntjänster och sätta informationen i sitt sammanhang med AI för att förstå situationen. Även om vi har kommit långt i design och utförande av dessa AI -tekniker, det finns fortfarande mer arbete att göra på denna arena.

Mycket av de data som dessa digitala assistenter samlar in och använder inkluderar personliga, potentiellt identifierbar och möjligen känslig information. Kan Alexa eller andra personliga digitala assistenter kränka integriteten och säkerheten för våra uppgifter? Eventuellt. Det finns en mörk sida med dessa virtuella assistenter.

Min expertis är inom dataskydd, datastyrning och artificiell intelligens. Jag var tidigare informations- och sekretessansvarig vid Ontario Information and Privacy Commissioner's Office.

Välkommen service

Föreställ dig följande situation.

Du väntar några gäster över. Din första gäst kommer, och utomhus säkerhetskamera på din veranda fångar henne gå till ditt hem. En artig röst välkomnar henne och låser upp dörren. När hon väl är inne, din digitala assistent förklarar för din gäst att du är på väg och snart är hemma. Genom ditt hemmaljudsystem, din digitala assistent spelar ett urval av din gästs favoritlåtar (från ditt Spotify -vänner -nätverk). Din digitala assistent frågar din gäst om pumpakrydd fortfarande är hennes favorit kaffesmak eller om hon föredrar andra:fransk vanilj eller colombiansk. Strax efter, din gäst hämtar kaffet från den digitala kaffemaskinen. Nu välkomnar arbetsuppgifterna, din digitala assistent blir tyst, och i väntan på dig, din gäst ringer några telefonsamtal.

Det är fascinerande hur en digital assistent exakt och autonomt kan validera din gästs identitet, välj hennes favoritlåtar, kom ihåg hennes föredragna kaffesmak och hantera de smarta apparaterna i ditt hus.

Värdassistenter

Men berör din digitala assistents beteende dig?

Digitala assistenter kan spela in våra konversationer, bilder och många andra delar av känslig personlig information, inklusive plats via våra smartphones. De använder våra data för maskininlärning för att förbättra sig över tid. Deras programvara utvecklas och underhålls av företag som ständigt funderar på nya sätt att samla in och använda vår data.

Liknar andra datorprogram, den grundläggande frågan med dessa digitala assistenter är att de är sårbara för tekniska och processfel. Digitala assistenter kan också hackas på distans, vilket leder till intrång i användarnas integritet.

Till exempel, ett Oregon -par fick koppla ur sin Alexa -enhet, Amazons virtuella assistent, som deras privata konversation spelades in och skickades till en av deras vänner på deras kontaktlista.

I en annan incident, en tysk man av misstag fick tillgång till 1, 700 Alexa -ljudfiler som tillhör en helt främling. Filerna avslöjade personens namn, vanor, jobb och annan känslig information.

Medvetenhetsprivilegie

Ökad popularitet och tillgänglighet för personliga digitala assistenter har resulterat i en breddning av den så kallade digitala klyftan. Den intressanta paradoxen är att individer som är medvetna om och känsliga för integritetsfrågor vanligtvis begränsar deras användning av digitala verktyg, medan användare som är mindre benägna att skydda sin integritet omfattande integrerar personliga assistenter i sina digitala liv.

Digitala assistenter antingen registrerar data kontinuerligt eller väntar på att ett ord ska "vakna" eller aktiveras. De begränsar inte datainsamling till ägarens eller auktoriserade användares information. Personliga digitala assistenter kan samla in och behandla icke godkända användares personuppgifter, som deras röster.

I det digitalt delade samhället, någon som är insynsvänlig skulle inte bjuda in sådan utrustning i sina liv, medan andra kan acceptera eller rationalisera sådana beteenden.

Respektera andras integritet

I denna tid av allestädes närvarande enheter och internetåtkomst, hur ska vi hantera denna paradox och respektera varandras utrymme och val?

Låt oss gå tillbaka till vår imaginära personliga digitala assistent. Det var tvunget att bearbeta olika informationskällor om gästen för att fungera som en smart värd. Använde den digitala assistenten all den informationen för att mata algoritmerna eller för att invadera gästens integritet? Beroende på vem du frågar, svaret blir annorlunda.

Vår etikettmedvetna uppväxt berättar att vi har ett socialt och etiskt ansvar att respektera varandras värderingar när det gäller digital teknik. Men konsekvenserna och tillväxten av denna teknik har varit så betydande och snabb att vi ännu inte har kunnat omdefiniera våra sociala normer och förväntningar.

Till exempel, som värd, har vi en etisk skyldighet gentemot våra gäster att informera dem om vår personliga digitala assistent? Är det artigt av en hembesökare att be värden att stänga av sina digitala verktyg? Ska vi fråga om närvaron av smarta verktyg och digitala assistenter innan vi anländer till en väns hus, ett hotell eller en AirBnB?

Svaret på dessa frågor är ja, enligt etikettexpert Daniel Post Senning. Senning förklarar att etiketten är mest kraftfull när du använder den som ett verktyg för självbedömning. Skulle vi vilja bli informerade om att vi spelas in på ett affärsmöte eller en privat sammankomst? Eller hur föredrar vi att bli ombedd att stänga av digitala verktyg om vi är värd? Etikettreglerna är universella:att vara hänsynsfull, ärlig och snäll.

Informera dina kollegor och gäster om att dina digitala enheter kan spela in sina röster, bilder eller annan information. Be din värd att stänga av digitala assistenter om du inte känner dig bekväm med dem. Men var hänsynsfull. Du kanske inte vill be din värd att stänga av digitala assistenter i närvaro av någon som är äldre eller har en funktionsnedsättning och är beroende av dessa verktyg.

Bibehålla vår kollektiva integritet

Sekretess är en social norm som vi måste samarbeta för att upprätthålla. För det första, vi måste utbilda oss om cybersäkerhet och potentiella risker med digital teknik. Vi bör också vara proaktiva för att hålla oss uppdaterade med de senaste nyheterna om teknik och vidta åtgärder vid behov.

Regeringens roll i detta komplexa paradigm är kritisk. Vi behöver starkare integritetslagar för att ta itu med sekretessproblem i samband med personliga digitala assistenter. Just nu, företag som Amazon, Google och Apple gör reglerna.

Andra jurisdiktioner har utvecklat och implementerat bestämmelser som Europas allmänna dataskyddsförordning (GDPR) som tillhandahåller tillsyn över datainsamling för en mängd olika hushållsapparater. Kanada borde följa efter.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.