Med tanke på valet att åka i en Uber som körs av en människa eller en självkörande version, vilket skulle du välja?

Med tanke på förra månadens dödsolycka av en självkörande Uber som tog livet av en kvinna i Tempe, Arizona, och att en testförare nyligen dött av ett halvautonomt fordon som utvecklas av Tesla, Folkets förtroende för tekniken bakom autonoma fordon kan också ha fått en törn. Tillförlitligheten hos självkörande bilar och andra former av artificiell intelligens är en av flera faktorer som påverkar människors förtroende för AI, maskininlärning och andra tekniska framsteg, skriver två forskare från Missouri University of Science and Technology i en färsk tidskriftsartikel.

"Förtroende är hörnstenen i mänsklighetens förhållande till artificiell intelligens, " skriver Dr Keng Siau, professor och ordförande för affärs- och informationsteknologi vid Missouri S&T, och Weiyu Wang, en Missouri S&T doktorand i informationsvetenskap och teknologi. "Som alla typer av förtroende, förtroende för AI tar tid att bygga, sekunder att gå sönder och för alltid att reparera när den är trasig."

Uber- och Tesla-incidenterna pekar på behovet av att ompröva hur AI-applikationer som autonoma körsystem utvecklas, och för designers och tillverkare av dessa system att vidta vissa åtgärder för att bygga större förtroende för sina produkter, säger Siau.

Trots dessa senaste incidenter, Siau ser en stark framtid för AI, men en fylld av förtroendefrågor som måste lösas.

"En dynamisk process"

"Byggande av förtroende är en dynamisk process, involverar rörelse från initialt förtroende till kontinuerlig förtroendeutveckling, " Siau och Wang skriver i "Building Trust in Artificial Intelligence, Maskininlärning, och robotik, " publicerad i februarinumret 2018 av Cutter Business Technology Journal.

I deras artikel, Siau och Wang undersöker rådande begrepp om förtroende i allmänhet och i samband med AI-tillämpningar och interaktion mellan människa och dator. De diskuterar de tre typerna av egenskaper som bestämmer förtroende inom detta område – mänsklig, miljö och teknik – och skissera sätt att skapa förtroende för AI-tillämpningar.

Siau och Wang pekar på fem områden som kan hjälpa till att bygga upp ett initialt förtroende för artificiell intelligens:

• Representation. Ju mer "mänsklig" en teknik är, desto mer sannolikt är det att människor litar på det. "Det är därför humanoida robotar är så populära, "Siau säger, tillägger att det är lättare att "etablera en känslomässig koppling" med en robot som ser ut och agerar mer som en människa eller en robothund som agerar mer som en hund. Kanske borde första generationens autonoma fordon ha en humanoid "chaufför" bakom ratten för att underlätta bekymmer.
• Bild eller uppfattning. Science fiction-böcker och filmer har gett AI en dålig image, säger Siau. Människor tenderar att tänka på AI i dystopiska termer, som färgats av Terminator- eller Bladerunner-filmer eller Isaac Asimov och Philip K. Dick-romaner. "Denna bild och uppfattning kommer att påverka människors initiala förtroende för AI, Siau och Wang skriver.
• Recensioner från andra användare. Människor tenderar att lita på produktrecensioner online, och "en positiv recension leder till större initialt förtroende."
• Transparens och "förklarbarhet". När en tekniks inre funktioner är gömda i en "svart låda, " att opacitet kan hindra förtroende. "Att lita på AI-applikationer, vi måste förstå hur de är programmerade och vilken funktion som kommer att utföras under vissa förhållanden, säger Siau.
• Prövbarhet. Möjligheten att testa en ny AI-applikation innan du blir ombedd att anpassa den leder till större acceptans, säger Siau.

Hur man upprätthåller förtroendet för AI

Utöver att utveckla initialt förtroende, dock, skapare av AI måste också arbeta för att upprätthålla det förtroendet. Siau och Wang föreslår sju sätt att "utveckla kontinuerligt förtroende" bortom de inledande faserna av produktutvecklingen:

• Användbarhet och tillförlitlighet. AI "bör utformas för att fungera enkelt och intuitivt, " skriver Siau och Wang. "Det bör inte uppstå några oväntade driftstopp eller krascher."
• Samarbete och kommunikation. AI-utvecklare vill skapa system som fungerar autonomt, utan mänsklig inblandning. Utvecklare måste fokusera på att skapa AI-applikationer som smidigt och enkelt samarbetar och kommunicerar med människor.
• Sällskap och bindning. Att bygga in sociala aktiviteter i AI-applikationer är ett sätt att stärka förtroendet. En robothund som kan känna igen sin ägare och visa tillgivenhet är ett exempel, Siau och Wang skriver.
• Säkerhet och integritetsskydd. AI-applikationer är beroende av stora datamängder, så att säkerställa integritet och säkerhet kommer att vara avgörande för att skapa förtroende för applikationerna.
• Tolkbarhet. Precis som transparens är avgörande för att bygga upp ett initialt förtroende, tolkningsbarhet – eller förmågan för en maskin att förklara sina slutsatser eller handlingar – hjälper till att upprätthålla förtroende.
• Arbetsförmedling. När oron för att AI ska ersätta människor på jobbet fortsätter att växa, politik måste införas för att ge omskolning och utbildning till dem som berörs av denna trend.
• Målkongruens. "Eftersom artificiell intelligens har potentialen att demonstrera och till och med överträffa mänsklig intelligens, det är förståeligt att människor behandlar det som ett hot, " Siau och Wang skriver. "Att se till att AI:s mål är kongruenta med mänskliga mål är en föregångare för att upprätthålla kontinuerligt förtroende." Policyer för att styra hur AI ska användas kommer att vara viktigt när tekniken går framåt, tillägger författarna.

"AI-åldern kommer att bli oroande, transformativ och revolutionerande, " skriver Siau i en annan ny artikel ("Hur kommer teknologin att forma lärande?" publicerad i mars 2018-numret av Global analytiker ). Men i denna oroande miljö, högre utbildning kan spela en betydande roll.

"Högre utbildning måste ta sig an utmaningen att förbereda eleverna för AI-revolutionen och göra det möjligt för elever att framgångsrikt surfa i AI-åldern, " skriver Siau.