Den 19 mars, ett Uber självkörande fordon som testades i Arizona slog och dödade Elaine Herzberg, som gick sin cykel tvärs över gatan. Detta är första gången ett självkörande fordon har dödat en fotgängare, och det väcker frågor om etik för att utveckla och testa sammanslagningsteknik. Vissa svar måste vänta tills hela utredningen är klar. Ändå, Nicholas Evans, filosofiprofessor vid University of Massachusetts-Lowell som studerar etik i autonoma fordons beslutsprocesser, säger att några frågor kan besvaras nu.

1. Kan en mänsklig förare ha undvikit denna krasch?

Förmodligen så. Det är lätt att tro att de flesta skulle ha problem med att se en fotgängare korsa en väg på natten. Men det som redan är klart om just denna händelse är att vägen inte var så mörk som den lokala polischefen ursprungligen hävdade.

Chefen sa också ursprungligen att Herzberg plötsligt klev ut i trafiken framför bilen. Dock, de oroväckande och alarmerande videofilmerna som släppts av Uber och lokala myndigheter visar att detta inte stämmer:Snarare Herzberg hade redan gått över ett körfält på den tvåfiliga vägen, och var i färd med att fortsätta vägkorsningen när Uber träffade henne. (Säkerhetsföraren märkte inte heller fotgängaren, men video tyder på att föraren tittade ner, inte genom vindrutan.)

En vanlig mänsklig förare, någon som aktivt uppmärksammar vägen, skulle sannolikt ha haft lite problem att undvika Herzberg:Med strålkastare på när du kör 40 km / h på en faktiskt mörk väg, det är inte svårt att undvika hinder direkt när de är 100 meter eller mer före, inklusive människor eller vilda djur som försöker komma över. Denna krasch kunde undvikas.

En tragisk konsekvens av detta faktum är tydlig:En självkörande bil dödade en person. Men det finns också en allmän betydelse. Åtminstone den här Uber -bilen körde sig själv på befolkade gator utan att kunna utföra den avgörande säkerhetsuppgiften att upptäcka en fotgängare, och bromsa eller styra för att inte träffa personen.

I kölvattnet av Herzbergs död, säkerheten och tillförlitligheten hos Ubers självkörande bilar har ifrågasatts. Det är också värt att undersöka etik:Precis som Uber har kritiserats för att utnyttja sina drivrutiner för vinst, företaget kan förmodligen utnyttja körningen, ridning och vandring offentligt för sina egna forskningsändamål.

2. Även om denna krasch kunde undvikas, Är självkörande bilar fortfarande generellt säkrare än mänskliga bilar?

Inte än. Dödstalen på amerikanska vägar är verkligen alarmerande:cirka 32, 000 dödsfall per år. Den federala uppskattningen är att 1,18 människor dör per 100 miljoner vägmil som körs av människor. Ubers bilar körde bara 3 miljoner mil, dock, innan deras första dödsfall. Det är inte rättvist att göra statistisk analys från en enda datapunkt, men det är ingen bra början:Företag bör sikta på att göra sina robotar minst lika bra som människor, om ännu inte uppfyller löftet om att bli betydligt bättre.

Även om Ubers autonoma bilar var bättre förare, siffrorna berättar inte hela historien. Av de 32, 000 människor som dör på amerikanska vägar varje år, 5, 000 till 6, 000 är fotgängare. När man siktar på säkerhetsförbättringar, ska målet vara att minska de totala dödsfallen - eller att lägga särskild vikt vid att skydda de mest utsatta offren? Det är förvisso hypotetiskt möjligt att föreställa sig ett självkörande bilsystem som halverar de totala trafikdödarna till hälften-till 16, 000 - samtidigt som dödsfallet för fotgängare fördubblades - till 12, 000. Totalt sett det kan tyckas mycket bättre än mänskliga förare - men inte ur perspektivet för människor som går längs landets vägar!

Min forskargrupp har arbetat med att utveckla etiska beslutsramar för självkörande bilar. Ett potentiellt tillvägagångssätt kallas "maximin". Mest i grunden det tankesättet föreslår att människor som designar autonoma fordon - både fysiskt och när det gäller programvara som kör dem - borde identifiera de sämsta möjliga resultaten av alla beslut, även om det är sällsynt, och arbeta för att minimera deras effekter. Alla som varit olyckliga nog att bli påkörda av en bil både som fotgängare och i ett fordon vet att det är mycket värre att gå till fots. Under maximin, människor borde designa och testa bilar, bland annat, att prioritera fotgängarnas säkerhet.

Maximin är förmodligen inte den bästa möjliga - och absolut inte den enda - moraliska beslutsteorin att använda. I vissa fall, det värsta resultatet kan undvikas om en bil aldrig drar sig ur sin uppfart! Men maximin ger tankar om hur man kan integrera självkörande bilar i vardagen. Även om autonoma bilar alltid utvärderas som säkrare än människor, vad som räknas som "säkrare" spelar mycket stor roll.

3. Hur mycket bättre ska självkörande bilar vara än människor innan allmänheten accepterar dem?

Även om folk kunde komma överens om hur självkörande bilar ska vara säkrare än människor, det är inte klart att folk ska vara okej med självkörande bilar när de först blir knappt bättre än människor. Om något, det är då tester på stadsgator ska börja.

Tänk på ett nytt läkemedel som utvecklats av ett läkemedelsföretag. Företaget kan inte marknadsföra det så snart det har visat sig att det inte dödar människor som tar det. Snarare, läkemedlet måste genomgå en rad tester som visar att det är effektivt för att behandla det symptom eller tillstånd det är avsett att göra. Alltmer, drogtester försöker bevisa att en medicinering är betydligt bättre än vad som redan finns på marknaden. Människor bör förvänta sig detsamma med självkörande bilar innan företag sätter allmänheten i fara.

Kraschen i Arizona var inte bara en tragedi. Att inte se en fotgängare i svagt ljus var ett undvikbart grundfel för en självkörande bil. Autonoma fordon borde kunna göra mycket mer än så innan de får köras, även i tester, på den öppna vägen. Precis som läkemedelsföretag, massiva teknikföretag bör krävas att grundligt-och etiskt-testa sina system innan deras självkörande bilar tjänar eller äventyrar allmänheten.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.