Om du har sett science fiction-tv-serier som Humans eller Westworld, du kanske föreställer dig en nära framtid där intelligent, humanoida robotar spelar en viktig roll för att möta människors behov, inklusive vård av barn eller äldre släktingar.

Verkligheten är att nuvarande teknik inom denna sektor ännu inte är särskilt humanoid, men ändå, en rad robotar används i våra vårdtjänster inklusive funktionshinder, äldreomsorg, utbildning, och hälsa.

Vår nya forskning, publicerad idag av Australia and New Zealand School of Government, anser att regeringar måste noggrant planera för den oundvikliga expansionen av dessa tekniker för att skydda utsatta människor.

Vårdkris och robotarnas framväxt

Australien, liksom ett antal andra avancerade liberala demokratier, ser fram emot en framtid med en äldre befolkning, med en mer komplex blandning av kronisk sjukdom och sjukdom. Ett antal vårdorganisationer verkar redan under snäva skattemässiga begränsningar och rapporterar utmaningar med att rekrytera tillräckligt med kvalificerad personal.

I framtiden, färre antal i befolkningen i arbetsför ålder och ökat antal pensionärer kommer att förvärra detta problem. Om vi ​​sedan lägger till denna ekvation att konsumenternas förväntningar ökar, det börjar se ut som att framtida vårdtjänster står inför en något perfekt storm.

Robotar blir alltmer en del av våra vårdtjänster, kan fylla ett antal roller från manuella uppgifter till social interaktion. Deras bredare användning har utropats som ett viktigt verktyg för att hantera vår förestående vårdkris. Länder som Japan ser robotar spela en nyckelroll när det gäller att fylla sina arbetskraftsluckor inom vårdtjänster.

Ett antal australiska äldreomsorgshem använder Paro, en terapeutisk robot som ser ut och låter som en grönlandssälunge. Paro interagerar genom att röra huvudet, kraftigt ögonfransar och simfötter, gör ljud och reagerar på speciella former av beröring på sin pälsiga päls.

Paro har använts flitigt inom äldreomsorgen i USA, Europa och delar av Asien, vanligtvis bland personer som lever med demens.

Nao är en interaktiv följeslagningsrobot utvecklad i en humanoid form men som bara är 58 cm lång.

Nao har gått igenom ett antal olika iterationer och har använts för en mängd olika applikationer över hela världen, inklusive att hjälpa barn som är engagerade i pediatrisk rehabilitering och i olika utbildnings- och forskningsinstitut.

Teknikens dubbelkantade svärd

Robotar kan öka produktiviteten och förbättra kvaliteten och säkerheten. Men det finns risk för missbruk eller oavsiktliga konsekvenser.

Det har uttryckts oro för användningen av robotar som potentiellt kan minska integriteten, utsätta människor för dataintrång, eller till och med åsamka fysisk skada.

Vi saknar också bevis om de potentiella långsiktiga konsekvenserna av interaktioner mellan människa och maskin.

Vår forskning undersökte vilka roller robotar bör och, ännu mer kritiskt, skall inte spela i vårdleverans. Vi undersökte också regeringens roll som förvaltare i att utforma detta ramverk genom intervjuer med 35 policyer, hälsovård och akademiska experter från hela Australien och Nya Zeeland.

Vi fann att trots att dessa tekniker redan används i äldrevårdsinrättningar, skolor och sjukhus, statliga myndigheter tänker vanligtvis inte strategiskt om deras användning och är ofta inte medvetna om riskerna och potentiella oavsiktliga konsekvenser.

Detta innebär att sektorn till stor del drivs av teknikleverantörernas intressen. Leverantörer köper i vissa fall dessa tekniker för att differentiera dem på marknaden, men är inte heller alltid engagerad i kritisk analys.

Våra studiedeltagare identifierade att robotar "utnyttjades" som något nytt och attraktivt för att hålla unga människor intresserade av att lära sig, eller som "en konversationsstartare" med blivande familjer som utforskar äldrevårdare.

Men det finns betydande risker när teknikerna blir mer utvecklade. Med utgångspunkt i forskning inom andra framväxande teknologier, våra deltagare uttryckte oro över missbruk och beroende av roboten. Vad skulle hända om roboten gick sönder eller blev föråldrad, och vem skulle vara ansvarig om en robot orsakade skada?

När artificiell intelligens utvecklas, robotar kommer att utveckla olika nivåer av förmågor för att "känna" människan de bryr sig om. Detta väcker oro för potentiella hacknings- och säkerhetsproblem. På baksidan, det väcker frågor om ojämlikhet om olika vårdnivåer finns tillgängliga vid olika prispunkter.

Deltagarna var också oroade över de oavsiktliga konsekvenserna av robotrelationer för mänskliga relationer. Familjer kan känna att robotproxyn är tillräckligt sällskap, till exempel, och lämna sin åldrade släkting socialt isolerad.

Vad bör regeringar göra?

Staten har en viktig roll att spela genom att reglera den snabbt växande marknaden.

Vi föreslår ett lyhört tillsynssätt, som förlitar sig på att sektorn själv- och peer-reglering, och att eskalera frågor när de uppstår för efterföljande reglering. Sådant engagemang kommer att kräva utbildning, beteendeförändring, och en mängd olika regleringsåtgärder som går utöver formella regler.

Regeringen har en viktig roll i att hjälpa leverantörer att förstå de olika tillgängliga teknikerna och deras bevisbas. Vårdgivare kämpar ofta för att få tillgång till bra bevis om teknik och deras effektivitet. Som sådan, de informeras till stor del av marknaden, snarare än bevis av hög kvalitet.

Många av de intressenter som vi pratade med för vår forskning ser också en roll för regeringen i att hjälpa till att skapa en evidensbas som är tillgänglig för leverantörer. Detta är särskilt viktigt när teknik kan ha testats, men i ett annat nationellt sammanhang.

Många respondenter efterlyste upprättande av industristandarder för att skydda mot data- och integritetshot, och förlusten av jobb.

Till sist, regeringar har ett ansvar att säkerställa att utsatta människor inte utnyttjas eller skadas av teknik. Och de måste också säkerställa att robotar inte ersätter mänsklig vård och leder till större social isolering.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.