Artificiell intelligens har en ny utmaning:Om och hur man ska varna människor som kanske inte vet att de pratar med en robot.

På tisdag, Google visade upp en datorassistent som gör övertygande mänskligt ljudande telefonsamtal, åtminstone i den förinspelade demonstrationen. Men de verkliga personerna i dessa samtal tycktes inte vara medvetna om att de pratade med en maskin. Det kan ge tagiga problem för framtida användning av AI.

Bland dem:Är det rättvist - eller till och med lagligt - att lura människor att prata med ett AI -system som effektivt registrerar alla dess konversationer? Och medan Googles demonstration belyste den godartade användningen av konversationsrobotar, vad händer när spammare och bedragare får tag på dem?

Googles VD Sundar Pichai väckte jubel på tisdagen när han demonstrerade den nya tekniken, kallas Duplex, under företagets årliga konferens för mjukvaruutvecklare. Assistenten lade till pauser, "ums" och "mmm-hmms" till sitt tal för att låta mer mänskligt när det pratade med riktiga anställda på en frisersalong och en restaurang.

"Det är väldigt imponerande, men det kan helt klart leda till mer olycksbådande användning av denna typ av teknik, "sade Matthew Fenech, som forskar om de politiska konsekvenserna av AI för den Londonbaserade organisationen Future Advocacy. "Möjligheten att upptäcka nyanser, den mänskliga användningen av ytterligare små fraser - den här typen av ledtrådar är mycket mänskliga, och uppenbarligen visste inte personen i andra änden. "

Fenech sa att det inte är svårt att föreställa sig elak användning av liknande chatbots, som skräppostföretag, lura seniorer eller ringa skadliga samtal med röster från politiska eller personliga fiender.

"Du kan ha potentiellt mycket destabiliserande situationer där människor rapporteras säga något de aldrig sagt, " han sa.

Pichai och andra chefer från Google försökte betona att tekniken fortfarande är experimentell, och kommer att rullas ut försiktigt. Det är ännu inte tillgängligt på konsumentenheter.

"Det är viktigt för oss att användare och företag har en bra upplevelse av denna tjänst, och transparens är en viktig del av det, "Googles ingenjörer Yaniv Leviathan och Yossi Matias, som hjälpte till att utforma den nya tekniken, skrev i ett tisdag blogginlägg. "Vi vill vara tydliga med avsikten med samtalet så att företag förstår sammanhanget. Vi kommer att experimentera med rätt tillvägagångssätt under de kommande månaderna."

Det är oklart hur företaget kommer att navigera i befintliga telekommunikationslagar, som kan variera beroende på stat eller land. Google lämnade inte omedelbart en begäran om kommentar onsdag om hur det planerar att söka samtycke från personer som kallas av sina robotar.

En delägare i en frisersalong i San Francisco Bay Area nedlåtande för vissa Google-anställda blev lite krypade av konsekvenserna av integriteten.

"Det verkar som något som skulle vara till hjälp för våra kunder, "sa Katherine Esperanza, delägare i frisersalongen Slick &Dagger i Oakland, Kalifornien. Esperanza, dock, undrade om butiken skulle kunna blockera samtalen, och sa att det "ställer frågan om konversationen är inspelad och om mottagaren av dessa automatiska samtal kan vara medveten om att de spelas in."

Lagar mot avlyssning i Kalifornien och flera andra stater gör det redan olagligt att spela in telefonsamtal utan samtycke från både den som ringer och den som blir uppringd. Federal Communications Commission har också brottats med regler för robocalls, de oönskade och automatiskt uppringda samtalen från telefonförsäljare.

Sådana samtal är vanligtvis förinspelade monologer, men fler företag och organisationer använder sig av maskininlärningstekniker för att svara på en persons frågor med ett naturligt klingande samtal, i hopp om att de är mindre benägna att lägga på.

© 2018 Associated Press. Alla rättigheter förbehållna.