Mycket diskussion och etisk tanke om självkörande bilar har fokuserat på tragiska dilemman, som hypotetiker där en bil måste bestämma om man ska köra över en grupp skolbarn eller stöta ner från en klippa, döda sina egna åkare. Men den typen av situationer är extrema fall.

Som den senaste kraschen-där en självkörande bil dödade en fotgängare i Tempe, Arizona - demonstrerar, det vardagliga, vardagliga situationer vid varje övergångsställe, sväng och korsning presenterar mycket svårare och bredare etiska frågor.

Extrem etik

Som filosof som arbetar med ingenjörer i Stanfords Center for Automotive Research, Jag blev inledningsvis förvånad över att vi tillbringade våra labbmöten och diskuterade vad jag tyckte var en lätt fråga:Hur ska en självkörande bil närma sig en övergångsväg?

Mitt antagande hade varit att vi skulle tänka på hur en bil ska bestämma mellan passagerarnas liv och fotgängares liv. Jag visste hur jag skulle tänka på sådana dilemman eftersom dessa kraschscenarier liknar en berömd filosofisk hjärntankare som kallas "vagnproblemet". Föreställ dig att en springande vagn kastar ner spåren och som kommer att träffa antingen en grupp om fem eller en enda person - skulle du döda en för att rädda fem?

Dock, många filosofer numera tvivlar på att undersökning av sådana frågor är en fruktbar väg för forskning. Barbara Fried, en kollega på Stanford, till exempel, har hävdat att tragiska dilemman får människor att tro att etiska frågor mest uppstår under extrema och fruktansvärda omständigheter.

Faktiskt, etiska frågor är allestädes närvarande. Varje dag, vardagliga situationer är förvånansvärt röriga och komplexa, ofta på subtila sätt. Till exempel:Ska din stad spendera pengar på ett diabetesförebyggande program eller på fler socialarbetare? Skulle din lokala folkhälsoavdelning anställa en annan inspektör för restauranghygienstandarder, eller fortsätta ett program med gratis nålar och injektionsmaterial?

Dessa frågor är extremt svåra att svara på på grund av osäkerhet om konsekvenserna - till exempel vem som kommer att påverkas och i vilken grad. Lösningarna som filosofer har föreslagit för extrema och desperata situationer är till liten hjälp här.

Problemet är liknande med självkörande bilar. Att tänka igenom extrema situationer och kraschscenarier kan inte hjälpa att svara på frågor som uppstår i vardagliga situationer.

En utmaning vid övergångsställen

Man kan fråga, vad kan vara så svårt med vardagliga trafiksituationer som att närma sig ett övergångsställe, kör genom en korsning, eller sväng vänster. Även om sikten vid övergångsstället är begränsad och det ibland är svårt att avgöra om en närliggande fotgängare verkligen vill korsa gatan, förarna klarar detta varje dag.

Men för självkörande bilar, sådana vardagliga situationer utgör en utmaning på två sätt.

Först, det är det faktum att det som är lätt för människor ofta är svårt för maskiner. Oavsett om det är att känna igen ansikten eller cykla, vi är bra på perception och mekaniska uppgifter eftersom evolutionen byggde dessa färdigheter för oss. Den där, dock, gör dessa färdigheter svåra att lära eller konstruera. Detta är känt som "Moravec's Paradox."

Andra, i en framtid där alla bilar är självkörande bilar, små förändringar i körbeteendet skulle göra en stor skillnad i aggregeringen. Beslut fattade av ingenjörer idag, med andra ord, kommer inte att avgöra hur en bil kör utan hur alla bilar kör. Algoritmer blir politik.

Ingenjörer lär datorer hur man känner igen ansikten och objekt med hjälp av metoder för maskininlärning. De kan använda maskininlärning också för att hjälpa självkörande bilar att efterlikna hur människor kör. Men det här är ingen lösning:det löser inte problemet att omfattande beslut om säkerhet och rörlighet fattas av ingenjörer.

Vidare, självkörande bilar ska inte köra som människor. Människor är faktiskt inte särskilt bra förare. Och de kör på etiskt oroande sätt, besluta om att ge efter vid övergångsställen, baserat på fotgängares ålder, ras och inkomst. Till exempel, forskare i Portland har funnit att svarta fotgängare passeras av dubbelt så många bilar och måste vänta en tredjedel längre än vita fotgängare innan de kan korsa.

Självkörande bilar borde köra säkrare, och mer rättvist än vad folk gör.

Mundane etik

De etiska problemen fördjupas när du tar hand om intressekonflikterna som dyker upp i vardagliga situationer som övergångsställen, svängar och korsningar.

Till exempel, utformningen av självkörande bilar måste balansera andras säkerhet-fotgängare eller cyklister-med bilarnas passagerares intressen. Så snart en bil går snabbare än gångtempo, den kan inte förhindra att krocka mot ett barn som kan springa på vägen i den sista sekunden. Men gånghastigheten är, självklart, alldeles för långsamt. Alla behöver komma till platser. Så hur ska ingenjörer hitta balansen mellan säkerhet och rörlighet? Och vilken hastighet är tillräckligt säker?

Det finns andra etiska frågor som dyker upp också. Ingenjörer måste göra avvägningar mellan rörlighet och miljöpåverkan. När de tillämpas på alla bilar i landet, små förändringar i datorstyrd acceleration, kurvor och bromsning kan ha enorma effekter på energianvändning och utsläpp av föroreningar. Hur ska ingenjörer byta reseffektivitet med miljöpåverkan?

Vad ska trafikens framtid vara?

Mundana situationer innebär nya tekniska och etiska problem, men de får också människor att ifrågasätta grundläggande antaganden i trafiksystemet.

För mig själv, Jag började ifrågasätta om vi alls behöver platser som kallas "övergångsställen"? Trots allt, självkörande bilar kan göra det säkert att korsa en väg var som helst.

Och det är inte bara övergångsställen som blir onödiga. Trafikljus i korsningar kan också vara ett minne blott. Människor behöver trafikljus för att se till att alla får korsa korsningen utan krasch och kaos. Men självkörande bilar skulle kunna samordna varandra smidigt.

Den större frågan här är denna:Med tanke på att självkörande bilar är bättre än mänskliga förare, varför ska bilarna omfattas av regler som är utformade för mänskliga fel och mänskliga fel? Och för att förlänga detta tankeexperiment, överväga också den mer allmänna frågan:Om vi, som ett samhälle, kunde designa vårt trafiksystem från grunden, hur skulle vi vilja att det skulle se ut?

Eftersom dessa hårda frågor rör alla i en stad eller i ett samhälle, de kräver att en stad eller ett samhälle är överens om svar. Det innebär att balansera konkurrerande intressen på ett sätt som fungerar för alla - oavsett om människor bara tänker på övergångsställen eller om trafiksystemet som helhet.

Med självkörande bilar, samhällen kan göra om sina trafiksystem. Från övergångsstället till övergripande trafikdesign - det är vardagliga situationer som väcker riktigt hårda frågor. Extrema situationer är en distraktion.

Vagnproblemet besvarar inte dessa svåra frågor.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.