Användningen av artificiell intelligens (AI), teknologier som kan interagera med miljön och simulera mänsklig intelligens, har potential att väsentligt förändra vårt sätt att arbeta. Att framgångsrikt integrera AI i organisationer beror på arbetarnas nivå av förtroende för tekniken. En ny recension undersökte två decennier av forskning om hur människor utvecklar förtroende för AI. Författarna drog slutsatsen att sättet AI representeras, eller "förkroppsligade, " och AI:s förmåga bidrar till att utveckla förtroende. De föreslog också ett ramverk som tar upp de element som formar användarnas kognitiva och emotionella förtroende för AI, som kan hjälpa organisationer som använder det.

Recensionen, av forskare vid Carnegie Mellon University och Bar Ilan University, dyker upp i Academy of Management Annals .

"Förtroendet som användare utvecklar för AI kommer att vara centralt för att bestämma deras roll i organisationer, " förklarar Anita Williams Woolley, Docent i organisationsbeteende och teori vid Carnegie Mellon Universitys Tepper School of Business, som var medförfattare till studien. "Vi tog upp förtroendes dynamiska natur genom att utforska hur tillit utvecklas för människor som interagerar med olika representationer av AI (t.ex. robotar, virtuella agenter, eller inbäddad) samt funktionerna hos AI som underlättar utvecklingen av förtroende."

Specifikt, forskarna observerade rollen av påtaglighet (förmågan att bli uppfattad eller berörd), transparens (nivån till vilken driftreglerna och teknikens logik är uppenbara för användarna), och tillförlitlighet (om tekniken uppvisar samma förväntade beteende över tid). De övervägde också uppgiftens egenskaper (hur tekniska kontra mellanmänskliga bedömningar hanteras) och omedelbara beteenden (socialt orienterade gester avsedda att öka den mellanmänskliga närheten, som aktivt lyssnande och lyhördhet). De tittade också på antropomorfism (uppfattningen att teknik kan ha mänskliga egenskaper).

Författarna sökte i Google Scholar efter artiklar om mänskligt förtroende för AI publicerade mellan 1999 och 2019, identifiera cirka 200 referentgranskade artiklar och konferenshandlingar. Fält som representerades innefattade organisatoriskt beteende, människa-dator interaktioner, robot-människa interaktioner, informationssystem, informationsteknologi, och ingenjörskonst. De använde också tre databaser för att identifiera ytterligare 50 artiklar. I slutet, de granskade cirka 150 artiklar som presenterade empirisk forskning om mänsklig tillit till AI.

Författarna fann att representationen av AI spelade en viktig roll i karaktären på det kognitiva förtroende som människor utvecklar. För robotisk AI, banan för att utveckla tillit liknade den att skapa tillit i mänskliga relationer, börjar lågt och ökar efter mer erfarenhet. Men för virtuell och inbäddad AI, motsatsen inträffade:Högt initialt förtroende minskade efter erfarenhet.

Författarna fann också att nivån på maskinintelligens som kännetecknar AI kan dämpa utvecklingen av kognitivt förtroende, med en hög nivå av intelligens som leder till högre förtroende efter användning och erfarenhet. För robotisk AI, en hög nivå av maskinintelligens ledde generellt till snabbare utveckling av en hög nivå av förtroende. För virtuell och inbäddad AI, hög maskinintelligens erbjöd möjligheten att bibehålla de initiala höga nivåerna av förtroende. Transparens var också en viktig faktor för att etablera kognitivt förtroende för virtuell och inbäddad AI, även om förhållandet mellan tillförlitlighet och utvecklingen av förtroende för AI var komplext.

Antropomorfism var unikt viktig för utvecklingen av känslomässigt förtroende, men dess effekt skilde sig beroende på formen av AI. För virtuell AI, antropomorfism hade en positiv effekt. För robotisk AI, effekterna var blandade:människor tenderade att gilla antropomorfa robotar mer än mekaniskt utseende robotar, men dessa människoliknande robotar kan också framkalla obehag och en känsla av kuslighet.

Faktorer som påverkade emotionell tillit skilde sig från de som påverkade kognitiv tillit, och vissa faktorer kan ha haft olika konsekvenser för var och en, slutade författarna.

Som en guide för att integrera AI i organisationers arbete, författarna föreslog ett ramverk. De övervägde i vilken form AI användes, nivån på maskinintelligens, beteenden som lyhördhet, och tillförlitlighet som faktorer som påverkade hur människor utvecklade förtroende för AI, både kognitivt och känslomässigt.

"Förtroende kan förutsäga graden av beroende av teknik, medan nivån av överensstämmelse mellan någons förtroende och teknikens kapacitet, känd som kalibrering, kan påverka hur tekniken används, säger Ella Glikson, Biträdande professor vid Graduate School of Business Administration vid Bar Ilan University, som var medförfattare till studien.