Oro över integritet och dataskydd kan grumla utsikterna för digitala assistenter som är inbyggda i enheter som Apple HomePod
En rad sekretessfel under de senaste månaderna har väckt ny oro över framtiden för röststyrda digitala assistenter, en växande marknad som av vissa ses som nästa gräns för datoranvändning.
Senaste incidenter med Google, Apple- och Amazon-enheter understryker att trots stark tillväxt på marknaden för smarta högtalare och enheter, Det krävs mer arbete för att försäkra konsumenterna om att deras data skyddas när de använder tekniken.
Apple sa den här veckan att de avbryter sitt "Siri-graderingsprogram", där människor lyssnar på utdrag av konversationer för att förbättra tekniken för röstigenkänning, efter att den brittiska tidningen Guardian rapporterade att entreprenörerna hörde konfidentiell medicinsk information, kriminella handlingar och även sexuella möten.
"Vi är fast beslutna att leverera en fantastisk Siri-upplevelse samtidigt som vi skyddar användarnas integritet, " Apple sa i ett uttalande, och tillägger att det skulle tillåta konsumenter att välja den här funktionen i en framtida programuppdatering.
Google sa under tiden att de skulle pausa att lyssna på och transkribera konversationer i EU från sin Google Assistant i kölvattnet av en integritetsutredning i Tyskland.
Amazon, som också har erkänt att de använder mänskliga assistenter för att förbättra den artificiella intelligensen hos sina Alexa-drivna enheter, tillkännagav nyligen en ny funktion som gör det lättare att radera all inspelad data.
De senaste fallen kan ge konsumenter intrycket av att någon "lyssnar" på deras konversationer även om det sällan är sant.
"Ur ett teknikperspektiv är det inte förvånande att dessa företag använder människor för att kommentera denna data, eftersom maskinen inte är tillräckligt bra för att förstå allt, sa Florian Schaub, en professor vid University of Michigan specialiserad på interaktion mellan människa och dator som har forskat om digitala assistenter.
"Problemet är att folk inte förväntar sig det och det kommuniceras inte öppet."
Carolina Milanesi, en teknikanalytiker med kreativa strategier, överens om att det behövs människor för att förbättra tekniken.
Många konsumenter uttrycker oro över vad som händer med deras data när de säger "Hey Google"
"Folk har en något orealistiska förväntningar på att dessa assistenter av magi bara kommer att bli bättre så småningom, att de kan göra maskininlärning och bli bättre på egen hand, men just nu är vi fortfarande i början av AI, och mänskligt ingripande är fortfarande viktigt, " Hon sa.
Enligt analysföretaget eMarketer, nästan 112 miljoner människor – en tredjedel av USA:s befolkning – kommer att använda en röstassistent minst en gång i månaden på vilken enhet som helst, med många som använder AI-drivna enheter för sökningar, musik och nyheter eller information.
En Microsoft-undersökning i år bland konsumenter i fem länder visade att 80 procent var nöjda med sin erfarenhet av digitala assistenter. Men 41 procent av de tillfrågade sa att de var oroliga för integriteten, tillit och passivt lyssnande.
Ogrundade farhågor?
En del av integritetsrädslorna kring smarta högtalare är baserade på falska antaganden, konstaterar analytiker.
Enheterna registrerar eller överför inte information förrän de "aktiveras" med ett nyckelord eller en fras som "Hej, Siri" eller "Alexa."
Men "det finns alltid en risk för falsk aktivering, " konstaterade Schaub.
"Du måste lita på enheten och företaget som tillverkar enheten som mikrofonen endast bearbetar lokalt tills aktiveringsordet hörs."
Ryan Calo, fakultets meddirektör för University of Washington Tech Policy Lab, sa att medan enheterna inte lyssnar, det kvarstår oro över tillgången till konversationer.
"Om anställda hör saker de inte borde ha tillgång till, det är verkligen en röd flagga, det är en dålig praxis, " sa Calo.
Amazon visade upp sin Alexa digitala assistent vid 2019 Consumer Electronics Show för smarta högtalare och andra enheter
Koka grodan
Calo sa att integritetsproblemen kring digitala assistenter sannolikt kommer att växa i takt med att enheterna utökar sina möjligheter.
"Jag oroar mig för en trend där dessa system börjar lyssna efter mer än bara ditt jakande kommando - det kan lyssna efter att krossa glas eller tecken på nöd, eller en bebis som gråter. Helt plötsligt lyssnar systemet efter alla möjliga saker och grodan blir kokad genom att stegvis värma upp vattnet, " han sa.
Calo uttryckte också oro över att enheter kan slås på på distans, ett potentiellt hot mot medborgerliga friheter.
"Om brottsbekämpande myndigheter får ett beslut, det kan förvandla ditt Echo till en lyssningsenhet, " han sa.
Schaub sa att konsumenter också är oroliga för att data från enheterna kan användas för annonsinriktning.
"Människor vill ha dessa förmåner men utan att tillåta att deras data används mot dem, " han sa.
Fortfarande, tjusningen med digitala assistenter kommer att innebära att marknaden sannolikt kommer att fortsätta växa.
Schaub sa att ett sätt att försäkra konsumenterna skulle vara att bygga in sekretessfunktioner direkt i röstkommandon så att användare kan förstå hur deras data används och göra bättre val.
"Företag bör se detta som en möjlighet att engagera sig med kunder om hur de skyddar dem, " han sa.
© 2019 AFP
