Förra veckan, US National Transportation Safety Board (NTSB) publicerade sin preliminära rapport om Uber-självkörningsolyckan som dödade en kvinna i mars.

NTSB fann att bilen identifierade ett föremål på vägen sekunder före kraschen, men bilen stannade inte. Radar- och Lidarsensorerna på den modifierade Volvo XC-90 SUV upptäckte 49-åriga Elaine Herzberg cirka sex sekunder före kraschen. Fordonet klassade Herzberg först som ett objekt, sedan som ett fordon, och slutligen som en cykel när hon gick sin cykel tvärs över gatan.

Ungefär en sekund före påverkan, det självkörande systemet bestämde att nödbromsning var nödvändig för att undvika en kollision. Men, Uber hade inaktiverat Volvos fabriksutrustade automatiska nödbromssystem för att undvika krockar med sin egen teknik, sa rapporten.

Det blev värre därifrån.

NTSB fann också att Ubers självkörande programvara hade tränats att inte använda sin egen nödbromsning i situationer som riskerade "oregelbundna fordonsbeteenden". Detta gjordes för att ge en bekväm åktur:För många falskt positiva upptäckter (t.ex. trädblad, buskar eller plastpåsar på vägen) skulle resultera i ett stort antal nödbromsar som ingen passagerare tål.

Så, istället, företaget förlitade sig på reservföraren att ingripa i sista minuten för att undvika katastrof. Det hände inte.

Tänk om på nivå 3 och villkorlig automatisering

De flesta av de självkörande testerna idag kräver mänskligt ingripande. Detta är vad som kallas nivå 3 eller villkorlig automatisering-det stadium i autonom bilutveckling som jag tror är det farligaste eftersom det innebär överlämnande av fordonskontroll till reservföraren i nödfall.

Få företag har redan valt att hoppa över nivå 3 och rikta in sig på den säkrare nivå 4 (full autonomi).

Faktiskt, Jag skulle hävda att nivå 3 uttryckligen borde vara förbjuden på öppna vägar. Att ha ett mänskligt steg inuti kontrollslingan i sista möjliga minut är inget annat än en garanterad katastrof.

Med båda automatiska nödbromssystem som inte är tillgängliga i Uber -fordonet, företaget förlitade sig på reservoperatören att ingripa med ett ögonblicks varsel för att förhindra en krasch. Detta är problematiskt eftersom överföring av kontroll från bil till människa medför många svårigheter, särskilt i situationer när reservoperatören har zonat ut. Videofilmer visade operatören titta ner omedelbart före kraschen. Hon bromsade först efter kollisionen. Herzberg dödades.

Nivå 3 ger också förare en falsk känsla av säkerhet. I mars, en Tesla -förare dödades i en krasch i Kalifornien när hans fordon körde på autopiloten. I maj 2016, en Tesla -förare dog när hans bil, även på autopilot, kraschade in i en lastbil i Florida. Dessa fordon är konstruerade för körning av människor, assisterad av självkörande teknik, inte drivs av datorer med mänsklig övervakning.

Lagstiftningsinsatser - vägen framåt

NTSB -rapporten belyser inte bara bristerna i Ubers testprogram, men också ett misslyckande med att reglera tester på öppna vägar.

En rapport som publicerades förra året visade att självkörande mjukvara varierar mellan olika leverantörer. Waymos självkörande programvara var 5, 000 gånger säkrare än Ubers, enligt rapporten. Detta mättes enligt frekvensen av urkopplingar, när det automatiska systemet tvingade reservföraren att ta kontroll över fordonet. Ubers ränta var 1 frånkoppling per körd mil, medan Waymo var 1 frånkoppling var 5:e, 128 mil!

Branschen är självreglerande och det är okänt hur de avgör om deras teknik är säker att köra på allmänna vägar. Tillsynsmyndigheterna har också misslyckats med att tillhandahålla kriterierna för att göra sådana bestämningar.

Även om det är nödvändigt att testa prestanda för självkörande programvara under verkliga förhållanden, försöken på öppna vägar ska inte handla om att testa systemens säkerhet. Säkerhetstester bör utvärderas noggrant innan fordonen släpps ut på allmän väg.

Ett lämpligt tillvägagångssätt skulle vara att tillsynsmyndigheterna kommer med en uppsättning standardiserade tester, och be företag att jämföra sina algoritmer på samma datamängder.

Tillsynsmyndigheterna bör följa en graderad metod för certifiering. Först, det självkörande systemet utvärderas i simuleringsmiljöer. Detta ger förtroende för att systemet fungerar säkert. Detta följs av verkliga tester i trånga miljöer (t.ex. på testbäddar). När fordonen väl klarat riktmärketesterna, tillsynsmyndigheterna kan tillåta dem på öppna vägar men också med säkerhetsförhållanden.

Denna tragiska händelse bör vara en katalysator för tillsynsmyndigheter att upprätta en stark och robust säkerhetskultur för att styra innovationer inom självkörande teknik. Utan detta, autonom fordonsdistribution skulle inte gå någonstans väldigt snabbt.