Googles demonstration av artificiell intelligens var underhållande, men väckte en viktig fråga:har du rätt att veta att du pratar med en maskin?

Google överraskade oss alla denna vecka med introduktionen av sitt nya system för artificiell intelligens, Google Duplex.

Till skillnad från Siri, Alexa och andra AI -assistenter, systemet talar som en övertygande människa. Vad mer, det är utformat för att ringa telefonsamtal åt dig, som att boka bord på en restaurang eller boka tid på en frisersalong.

"Jag tycker att AI Duplex är en cool teknik, "UNSW Canberra -expert på artificiell intelligens och SEIT -professor Hussein Abbass säger.

"Jag vill verkligen inte slösa bort min tid på att ringa telefonnummer för att boka en restaurang eller en frisör."

Ett samtal med Duplex flyter, "ums" och "mmm-hmms" kastas in för gott mått, och det är troligt att personen i mottagaränden inte har en aning om att de talar till en maskin.

Och för många utgör detta en etisk oro. Ska Duplex presentera sig som en robot?

Professor Abbass säger att det borde.

"Nyckelpunkten här är att den ska identifiera sig, Säger professor Abbass.

"I videon, AI Duplex sa att det ringer på uppdrag av en klient. Människan på andra sidan linjen bad den aldrig att identifiera sig. Om AI Duplex använder ett mänskligt namn för att vinna mänskligt förtroende, då finns det uppenbarligen ett element av bedrägeri och AI skulle agera oetiskt.

"Om AI Duplex identifierar sig som en automatiserad robot eller liknande, då är det upp till människan att avgöra om han/hon vill fortsätta konversationen. "

Professor Abbass säger att AI Duplex samlar in mänskliga röstsignaturer som fortsätter att träna roboten och till och med dess egen röst verkar vara en syntes av en eller flera mänskliga röster.

"Dessa människor måste vara mer medvetna om hur deras data används och de måste ge uttryckligt samtycke för insamling av data och för avsedd användning av uppgifterna, " han säger.

Om vi ​​kan lita på att Duplex gör våra frisörmöten, kan vi också lita på att det ringer ett nödsamtal? Professor Abbass säger att detta kan ha sina fördelar och nackdelar.

"En bilassistent kan ringa ambulansen i en nödsituation som en olycka, och i detta fall, det är en livräddande teknik, " han säger.

"Om det blir missbrukat, då som vilken teknik som helst, när det missbrukas är det en olämplig handling -som till och med kan vara olaglig. "

Professor Abbass säger att tekniken har en lång väg att gå innan den kan hålla långa mänskliga diskussioner.

"Ändå, denna teknik är ett utmärkt exempel på varför tekniken måste vara etiskt medveten. Om en människa ber om hjälp för att ringa ett olämpligt samtal, AI Duplex ska säga nej, " han lägger till.