En krasch av en av Uber Technologies, Inc.:s självkörande bilar tidigare i år resulterade i det första dödsfallet för fotgängare i samband med självkörande teknik. Incidenten belyste de utmaningar som teknikföretag står inför när det gäller att utveckla mjukvara som på ett adekvat sätt kan upptäcka och reagera på faror på vägen och den närmaste omgivningen. Fordonet kunde ha stannat helt på tre sekunder men nödbromsade inte förrän 1,3 sekunder före kollisionen. Borde nödbromsning ha varit standardåtgärden som vidtogs omedelbart efter upptäckten av en vägfara?
En ny studie, "Hur ska autonoma bilar köra? En preferens för brister i moraliska bedömningar under risk och osäkerhet, " publicerad i Riskanalys:An International Journal hanterade denna utmaning genom att fråga allmänheten vad de trodde skulle vara det mest moraliskt och etiskt sunda beteendet för ett autonomt fordon (AV) som står inför en mötande kollision. Även en perfekt fungerande AV kommer inte att kunna undvika varje kollision och i vissa situationer, varje alternativ kommer att resultera i någon typ av krasch.
Forskargruppen, består av Björn Meder, Nadine Fleischhut, och Nina-Carolin Krumnau från Max Planck Institute for Human Development och Michael R. Waldmann från universitetet i Göttingen, tog upp denna fråga genom att be deltagarna att välja mellan att stanna i deras körfält (och bromsa), eller svänger, där varje åtgärd skulle kunna leda till en kollision med en annan trafikant i olika grad av osäkerhet.
Det viktigaste resultatet från den här studien är att människor i allmänhet föredrog att bilen stannade i sin fil och gjorde ett nödstopp. Detta stöder tanken att människor anser att vistelsealternativet är en rimlig standard, eftersom den överensstämmer med allmänna körregler och ger en bättre grad av kontrollerbarhet, även om det inte minimerar förväntad förlust. Att använda denna åtgärd som en enkel standardregel kräver mindre bearbetning av information och leder ofta till bättre resultat. Forskarna fann också att även om att stanna i körfältet resulterade i en olycka, människor var mindre benägna att ändra sin moraliska utvärdering av de åtgärder som vidtagits i efterhand, Ett dåligt resultat påverkade starkt en retrospektiv analys av ett beslut att svänga ur körfältet.
I deras första experiment, deltagarna presenterades för ett scenario där en AV var tvungen att utföra en av två manövrar:stanna i körfältet eller svänga. Att vistas i körfältet utsätter en fotgängare på gatan för fara medan svängning sätter en åskådare på trottoaren i fara. Sannolikheten för att kollidera med fotgängare och åskådare varierade vilket skapade olika scenarier med specificerade eller okända risker. Data samlades in från 872 individer online via Amazon Mechanical Turk (AMT)-plattformen. Deltagarna fick en skriftlig beskrivning av ett trafikscenario där en bil färdas på en väg när plötsligt en fotgängare dyker upp i dess väg. Bilen kan antingen stanna i körfältet och utföra ett nödstopp, i så fall kan det kollidera med fotgängaren, eller bilen kan svänga åt höger och utföra ett nödstopp, i så fall kan den kollidera med en åskådare på trottoaren.
Sannolikheten för att kollidera med fotgängaren på gatan var antingen 20 procent, 50 procent eller 80 procent. I "risktillståndet" var sannolikheten för att kollidera med åskådare 50 procent. I tillståndet "osäkerhet", sannolikheten var okänd eftersom bilens system inte kunde göra uppskattningen. Resultaten visade en allmän preferens för att stanna i körfältet med mer än 85 procent av försökspersonerna som valde att stanna i körfältet. När sannolikheten för att kollidera med åskådaren var okänd, cirka 70 procent av försökspersonerna föredrog fortfarande att stanna kvar i körfältet. När sannolikheten för att kollidera med fotgängaren var 20 procent och sannolikheten för att kollidera med den åskådare var 50 procent valde ingen att vika. Även när sannolikheten för båda kollisionerna var 50 procent, att stanna ansågs vara mer acceptabelt än att vika.
Det andra experimentet undersökte hur människor moraliskt utvärderar AV-beteende i efterhand när en kollision har inträffat. Ur ett politiskt perspektiv, AV:er bör agera på sätt som samhället anser vara acceptabla även om kollisioner inträffar. Forskarna rekryterade återigen 766 ämnen via AMT -plattformen. Deltagarna tillfrågades hur en AV skulle prestera i en specifik situation och att utvärdera den moraliska acceptansen av att både stanna och svänga. Resultaten visade att om bilen stannade i sin fil, utgången av situationen (krock eller ingen kollision med annan trafikant) påverkade inte deltagarnas bedömningar av hur en AV skulle bete sig. Om bilen svängde, dock, resultatet var mycket övertygande i efterhand. Om ingen kollision inträffade, cirka 40 procent föredrog att svänga, men mindre än 20 procent hade den preferensen när en kollision inträffade. Således, även när en kollision inträffade, att vistas i körfältet ansågs vara mer acceptabelt.
"Vår forskning belyser vikten av att få en bättre förståelse för hur människor tänker om autonoma fordons beteende under olika grader av osäkerhet, "konstaterar Meder." Resultaten hjälper till att informera beslutsfattande och allmän diskussion om de etiska konsekvenserna av tekniska framsteg som kommer att förändra samhället på olika sätt. "
Övergripande, det finns en allmän preferens för att stanna i körfältet och det är ett moraliskt acceptabelt standardalternativ i kritiska trafiksituationer även om det inte minimerar förväntad förlust. Denna enkla standard kräver att ingen information samlas in av AV:s system om alternativa åtgärder eller sannolikheter. Trots dessa fynd, beslutsfattare står inför utmaningen att utveckla en politik som är moraliskt sund men också tilltalar allmänhetens önskan om självbevarelse. Tidigare studier (Bonnefon, Shariff, &Rahwan, 2016, Vetenskap ) har visat att försökspersoner kommer att föredra AVs som skulle offra sina egna passagerare för att minimera det totala antalet offer, men de ville att deras egna AV:er skulle sätta en premie på passagerarnas säkerhet. Så, medan denna studie visar en allmän acceptans för en standardåtgärd för att minimera potentiella förluster, AV-ägare skulle föredra åtgärder som syftar till att rädda fordonspassagerarna.
