När man ställs inför kördilemman, människor visar en hög vilja att offra sig för andra, fatta beslut baserat på offrets ålder och svänga ut på trottoarer för att minimera antalet förlorade liv, avslöjar ny forskning publicerad i tidskriften med öppen tillgång Frontiers in Behavioral Neuroscience . Detta strider mot etiska riktlinjer under dessa omständigheter, som ofta dikterar att inget liv ska värderas framför ett annat. Denna forskning hoppas kunna initiera diskussioner om hur självkörande fordon bör programmeras för att hantera situationer som äventyrar människoliv.

"Den tekniska utvecklingen och adoptionen av autonoma fordon går snabbt men de sociala och etiska diskussionerna om deras beteende släpar efter, " säger huvudförfattaren Lasse T. Bergmann, som avslutade denna studie med ett team vid Institute of Cognitive Science, Universitetet i Osnabrück, Tyskland. "Det beteende som kommer att anses vara rätt i sådana situationer beror på vilka faktorer som anses vara både moraliskt relevanta och socialt acceptabla."

Trafikolyckor är en stor källa till dödsfall och skador i världen. När tekniken förbättras, automatiserade fordon kommer att överträffa sina mänskliga motsvarigheter, rädda liv genom att eliminera olyckor orsakade av mänskliga fel. Trots detta, det kommer fortfarande att finnas omständigheter där självkörande fordon kommer att behöva fatta beslut i en moraliskt utmanande situation. Till exempel, en bil kan svänga för att undvika att träffa ett barn som har sprungit på vägen men därigenom äventyrar andra liv. Hur ska den programmeras för att bete sig?

En etikkommission initierad av det tyska transportministeriet har skapat en uppsättning riktlinjer, representerar sina medlemmars bästa omdöme i en mängd olika frågor som rör självkörande bilar. Dessa expertbedömningar kan, dock, inte speglar mänsklig intuition.

Bergmann och kollegor designade ett virtuell verklighetsexperiment för att undersöka mänsklig intuition i en mängd olika möjliga körscenarier. Olika uppsättningar av tester skapades för att lyfta fram olika faktorer som kan eller inte kan uppfattas som moraliskt relevanta.

Baserat på ett traditionellt etiskt tankeexperiment, vagnproblemet, försökspersonerna kunde välja mellan två filer där deras fordon körde i konstant hastighet. De ställdes inför ett moraliskt utmanande kördilemma, som ett alternativ att flytta körfält för att minimera förlorade liv, ett val mellan offer i olika åldrar, eller en möjlighet till självuppoffring för att rädda andra.

Den avslöjade att mänsklig intuition ofta stod i strid med etiska riktlinjer.

Bergmann förklarar, "Den tyska etikkommissionen föreslår att en passagerare i fordonet inte får offras för att rädda fler människor; en intuition som inte allmänt delas av försökspersoner i vårt experiment. Vi finner också att människor valde att rädda fler liv, även om det handlar om att svänga ut på trottoaren – utsätta människor som inte är inblandade i trafikolyckan i fara. Vidare, ämnen som anses vara åldersfaktorn, till exempel, väljer att rädda barn framför äldre."

Han fortsätter, "Om autonoma fordon följer riktlinjer som dikteras av etikkommissionen, våra experimentella bevis tyder på att människor inte skulle vara nöjda med de beslut som deras bilar fattar för dem."

Professor Gordon Pipa, medförfattare, också baserad på universitetet i Osnabrück fortsätter, "Det är angeläget att vi börjar engagera oss i en samhällsdiskussion för att definiera målen och begränsningarna för framtida regler som gäller för självkörande fordon. Detta måste ske innan de blir en integrerad del av vårt dagliga liv."

Bergmann förklarar att ytterligare forskning behövs. "Medan "dilemma" situationer förtjänar mer studier, andra frågor bör också diskuteras. Att köra kräver en intrikat avvägning av risker kontra belöningar, till exempel hastighet kontra risken för att en kritisk situation utspelar sig. Beslutsprocesser som föregår eller undviker en kritisk situation bör också utredas."