Kredit:CC0 Public Domain
En massiv ny undersökning utvecklad av MIT-forskare avslöjar några distinkta globala preferenser när det gäller etiken för autonoma fordon, samt vissa regionala variationer i dessa preferenser.
Undersökningen har global räckvidd och en unik skala, med över 2 miljoner onlinedeltagare från över 200 länder som väger in versioner av en klassisk etisk gåta, "Vagnproblem". Problemet omfattar scenarier där en olycka med ett fordon är nära förestående, och fordonet måste välja ett av två potentiellt dödliga alternativ. När det gäller förarlösa bilar, det kan betyda att man vänder sig mot ett par personer, snarare än en stor grupp åskådare.
"Studien försöker i grunden förstå vilka typer av moraliska beslut som förarlösa bilar kan behöva ta till, " säger Edmond Awad, en postdoc vid MIT Media Lab och huvudförfattare till en ny artikel som beskriver resultaten av projektet. "Vi vet inte ännu hur de ska göra det."
Fortfarande, Awad tillägger, "Vi fann att det finns tre element som folk verkar godkänna mest."
Verkligen, de mest eftertryckliga globala preferenserna i undersökningen är att skona människors liv framför andra djurs liv; skona många människors liv snarare än ett fåtal; och bevara de ungas liv, snarare än äldre människor.
"De huvudsakliga preferenserna var till viss del allmänt överenskomna, " Awad konstaterar. "Men i vilken grad de håller med om detta eller inte varierar mellan olika grupper eller länder." Till exempel, forskarna fann en mindre uttalad tendens att gynna yngre människor, snarare än äldre, i vad de definierade som ett "östligt" kluster av länder, inklusive många i Asien.
Pappret, "The Moral Machine Experiment, " publiceras i Natur .
Författarna är Awad; Sohan Dsouza, en doktorand i Medialabbet; Richard Kim, en forskningsassistent i Media Lab; Jonathan Schulz, en postdoc vid Harvard University; Joseph Henrich, en professor vid Harvard; Azim Shariff, en docent vid University of British Columbia; Jean-François Bonnefon, en professor vid Toulouse School of Economics; och Iyad Rahwan, en docent i mediekonst och vetenskap vid Medielabbet.
Exempel på en situation föreslagen på Moral Machine-plattformen. Kredit:Edmond Awad et al. Natur.
Awad är postdoc i MIT Media Labs Scalable Cooperation-grupp, som leds av Rahwan.
För att genomföra undersökningen, forskarna designade vad de kallar "Moral Machine, " ett flerspråkigt onlinespel där deltagarna kan ange sina preferenser angående en rad dilemman som autonoma fordon kan ställas inför. Till exempel:Om det faller helt klart, bör autonoma fordon skona livet på laglydiga åskådare, eller, växelvis, lagbrytande fotgängare som kanske jaywalkar? (De flesta i undersökningen valde det förra.)
Allt sagt, "Moral Machine" sammanställde nästan 40 miljoner individuella beslut från respondenter i 233 länder; undersökningen samlade in 100 eller fler svar från 130 länder. Forskarna analyserade data som helhet, samtidigt som deltagarna delas in i undergrupper definierade av ålder, utbildning, kön, inkomst, och politiska och religiösa åsikter. Det fanns 491, 921 svarande som erbjöd demografisk data.
Forskarna hittade inga markanta skillnader i moraliska preferenser baserat på dessa demografiska egenskaper, men de hittade större "kluster" av moraliska preferenser baserade på kulturella och geografiska tillhörigheter. De definierade "västerländsk, " "östra, " och "södra" kluster av länder, och fann några mer uttalade variationer längs dessa linjer. Till exempel:Respondenter i södra länder hade en relativt starkare tendens att gynna sparande ungdomar snarare än äldre, speciellt jämfört med det östra klustret.
Diagram som visar skillnaden mellan sannolikheten för att olika kategorier av personer ska skonas i en bilolycka. I detta fall, skillnaden är till förmån för människor på höger sida. Fig. b:Relativ fördel eller nackdel för varje kategori av personer jämfört med en vuxen (man eller kvinna). Till exempel, sannolikheten för att ett barn blir en flicka är 0,15 högre än för en vuxen. Kredit:Edmond Awad et al. Natur.
Awad föreslår att ett erkännande av dessa typer av preferenser bör vara en grundläggande del av att informera offentliga sfären om dessa frågor. I alla regioner, eftersom det finns en måttlig preferens för att skona laglydiga åskådare snarare än jaywalkers, att känna till dessa preferenser kan in theory, inform the way software is written to control autonomous vehicles.
"The question is whether these differences in preferences will matter in terms of people's adoption of the new technology when [vehicles] employ a specific rule, " han säger.
Rahwan, for his part, notes that "public interest in the platform surpassed our wildest expectations, " allowing the researchers to conduct a survey that raised awareness about automation and ethics while also yielding specific public-opinion information.
"On the one hand, we wanted to provide a simple way for the public to engage in an important societal discussion, " Rahwan says. "On the other hand, we wanted to collect data to identify which factors people think are important for autonomous cars to use in resolving ethical tradeoffs."
Beyond the results of the survey, Awad suggests, seeking public input about an issue of innovation and public safety should continue to become a larger part of the dialogue surrounding autonomous vehicles.
"What we have tried to do in this project, and what I would hope becomes more common, is to create public engagement in these sorts of decisions, " Awad says.
