Av alla fiktiva virtuella assistenter vi känner från popkulturen, få står upp mot originalet och kanske mest kända:HAL 9000 från Stanley Kubrick-filmen 2001:A Space Odyssey från 1968.

Det ska vi nog vara tacksamma för. Trots allt, Alexa kanske släcker dina lampor, men hon kommer inte att vända sig mot dig och förstöra ditt liv. Eller kommer hon?

Amazon Alexa, Samsung Bixby, Google Assistant, Apple Siri, Microsofts Cortana, IBM Watson och andra virtuella assistenter annonseras som en korsning mellan din vän, din tjänare, din hjälpsamma följeslagare och sidekick.

HAL presenterar oss något mer olyckligt, men kanske mer realistiskt. Medan teknikföretag driver virtuella assistenter som en del av en bättre, lättare liv, 2001:En rymdodyssey frågar:till vilken kostnad?

Filmen illustrerar de tekniska ekosystemföretag som verkligen tävlar om att äga - en där vi handlar med vår integritet för små bekvämligheter.

'Jag vill hjälpa dig' - HAL

2001:A Space Odyssey, HAL introduceras för besättningen på ett rymdskepp som en av dem. Men med kognitiva förmågor långt utöver hans mänskliga följeslagares, HAL är allestädes närvarande – och inbäddad i tekniken som håller besättningen vid liv.

Besättningen litar på HAL, undviker integritet för hans hjälp med att kontrollera hela fartyget. Det faller dem inte in att de som designade HAL kanske inte hade besättningens bästa för ögonen. Eller att HAL:s lojalitet är till Mission Control och, bortom det, hans programmering.

Likaså, även om det är klart att funktionen hos moderna virtuella assistenter drivs av vinst, det är inte uppenbart för den genomsnittliga konsumenten exakt hur deras närvaro tjänas in. Konsumenter kan vara mer utbildade om sin integritet online nuförtiden, ändå har konsekvenserna av den virtuella världens intrång i det fysiska inte ordentligt genomsyrat det allmänna medvetandet.

Att låta en maskin spela in dig 24/7 i utbyte mot bekvämlighet är ett högt pris att betala. Det kanske inte verkar så eftersom virtuella assistenter bär den gloria av förtroende som de andra tjänsterna de är kända för – Googles sökning är oöverträffad och Amazons detaljhandelserfarenhet leder den globala marknaden.

Som HAL, dessa maskiner behandlar otroliga mängder data. Så mycket, att även deras skapare inte är helt säkra på deras förmåga, eller hur de kommer att nå sitt mål. Den kommersiella fördelen med virtuella assistenter ligger i deras förmåga att förutsäga ditt beteende genom vad de fångar, och skapa möjligheter för transaktioner. Att bryta stordata för prediktiv analys är på modet i affärsvärlden.

Så, medan företag marknadsför virtuella assistenter som din "assistent", de är i själva verket din "analytiker".

"Jag kunde se dina läppar röra sig" - HAL

2001:A Space Odyssey, besättningen läste helt klart aldrig HAL "Quick Start Guide". De visste inte att han kunde ljuga, och de var också omedvetna om att han kunde läsa läppar. När besättningen kliver ut ur fartyget för att ha en stunds avskildhet, HAL:s kameror kunde fortfarande se dem och förstod kärnan i deras inte så privata samtal. Sedan kom push för att skjuta ... och ja, så småningom slutade besättningen med att knuffa.

En oavsiktlig konsekvens av att ha en virtuell assistent till oss är att den alltid lyssnar, och det kan också vara inspelning. Ingen överraskning, det är precis vad Amazon har gjort. Om företag spelar in dig i ditt hem, glidningar som att skicka inspelningar till fel person, oavsiktligt släppa information, eller att av misstag tillåta någon att lyssna på är oundvikligt.

Åh, och om du tror att du är skyddad av villkoren, du har förmodligen fel. Men det är OK – som 2001:A Space Odyssey-besättningen, du kanske inte förstår eller läser dem ändå.

'Jag är rädd att jag inte kan göra det, Dave' - HAL

Kubrick använde 2001 för att illustrera tekniska, fysisk och psykisk förslavning. HAL kontrollerar först den fysiska miljön och försöker sedan utöva sin kontroll över den psykologiska. Om vi ​​återföreställer 2001:A Space Odyssey med HAL som hjälten, då gör han helt rätt i att döda besättningen. Trots allt, dessa irriterande människor är oförutsägbara eftersom de sannolikt kommer att låta sina känslor förstöra uppdraget.

Om vi ​​ombildar våra liv med Google som hjälten, då är vi "assistenten", hjälpa Google att få den data som behövs för att bättre övervaka och förutsäga ditt beteende – för aktieägarna.

Lyckligtvis, mänskligheten har fortfarande tid att anpassa sig innan maskinerna helt tar över våra liv på uppdrag av teknikföretag. Så länge människor fortfarande har sina papegojor som beställer mat från Amazon kommer det att vara klart för allmänheten att det inte är en bra idé att lita på den maskinen.

Fortfarande, artificiell intelligens förbättras i snabb takt. Så småningom måste vi bestämma om konsumenternas integritet ska segra, och blåsa ut den konstanta övervakningen ur ett luftsluss.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.