Vad ska en självkörande bil göra när ett närliggande fordon svänger oförutsägbart fram och tillbaka på vägen, som om dess förare var berusad? Vad sägs om att stöta på ett fordon som kör fel? Innan autonoma bilar är på vägen, alla borde veta hur de kommer att reagera i oväntade situationer.

Jag utvecklar, testa och distribuera autonoma skyttlar, identifiera metoder för att säkerställa att självkörande fordon är säkra och pålitliga. Men det finns ingen testbana som landets faktiska vägar, och inget sätt att testa dessa nya maskiner så noggrant som moderna människodrivna bilar har varit, med biljoner mil körda varje år i decennier. När självkörande bilar kör ut på vägen, de kraschar på både allvarliga och ringa sätt. Men alla deras beslut fattas elektroniskt, så hur kan folk vara säkra på att de kör säkert?

Lyckligtvis, det finns en gemensam, populär och välstuderad metod för att säkerställa att ny teknik är säker och effektiv för allmänt bruk:Testsystemet för nya mediciner. Det grundläggande tillvägagångssättet innebär att se till att dessa system gör vad de är avsedda att, utan några allvarliga negativa biverkningar – även om forskarna inte helt förstår hur de fungerar.

Omfattande effekter

Självkörande bilar förväntas förbättra trafiksäkerheten, frigöra förarnas tid och uppmärksamhet och förändra städer och till och med samhällen.

Regelverket som skapas för självkörande bilar kommer att få massiva effekter som krusar i hela ekonomin och samhället. Reglerna kommer sannolikt från någon kombination av de två nuvarande bilregulatorerna, den federala National Highway Traffic Safety Administration och statliga transportavdelningar.

Federala regler fokuserar främst på säkerhetsstandarder för strukturella, fordonens mekaniska och elektriska komponenter, som krockkuddar och säkerhetsbälten. Stater kan genomdriva sina egna säkerhetsregler – t.ex. reglering av utsläpp och hantering av körkort och fordonsregistrering, vilket ofta även innefattar krav på försäkringsskydd.

Gällande bestämmelser

Dagens statliga och federala regler behandlar förare och bilar som separata enheter. Men självkörande bilar, per definition, kombinera de två. Utan överensstämmelse mellan dessa bestämmelser, förvirring kommer att råda.

Obama-administrationen kom med 116 sidor med förordningar med massor av detaljer, men liten förståelse för hur självkörande bilar fungerade. Till exempel, de krävde att varje bil skulle ha mänskligt läsbara permanenta etiketter som visar dess specifika självkörande egenskaper, inklusive hastighetsbegränsningar, specifika motorvägar och väderförhållanden, allt detta skulle vara extremt förvirrande för användarna. Reglerna krävde också att etiska beslut skulle fattas "medvetet och avsiktligt" - vilket är tveksamt, om inte omöjligt, för en maskin.

Trump-administrationen minskade reglerna till 26 sidor, men har ännu inte tagit upp den viktiga frågan om att testa självkörande bilar.

Undersöker algoritmer

Att testa algoritmer är mycket som att testa mediciner. I båda fallen, forskare kan inte alltid säga exakt varför något fungerar (särskilt när det gäller maskininlärningsalgoritmer), men det är ändå möjligt att utvärdera resultatet:Blir en sjuk person frisk efter att ha tagit en medicin?

U.S. Food and Drug Administration kräver att läkemedel testas inte för deras behandlingsmekanismer, men för resultatet. De två huvudkriterierna är effektivitet – hur väl läkemedlet behandlar tillståndet det är avsett för – och säkerhet – hur allvarliga eventuella biverkningar eller andra problem är. Med denna metod, det är möjligt att bevisa att ett läkemedel är säkert och effektivt utan att veta hur det fungerar.

Liknande, federala bestämmelser kan – och bör – kräva testning av självkörande bilars algoritmer. Hittills, regeringar har testat bilar som maskiner, säkerställa styrning, bromsar och andra funktioner fungerar korrekt. Självklart, det finns också statliga tester för mänskliga förare.

En maskin som klarar båda ska klara båda typerna av tester – särskilt för fordon som inte tillåter mänskliga förare.

Utvärdera omdöme

Från min synvinkel, innan du tillåter någon specifik självkörande bil på vägen, NHTSA bör kräva testresultat från bilen och dess köralgoritmer för att visa att de är säkra och pålitliga. Den närmaste standarden för tillfället är Kaliforniens krav på att alla tillverkare av självkörande bilar ska lämna in årliga rapporter om hur många gånger en mänsklig förare var tvungen att ta kontroll över sina fordon när algoritmerna inte fungerade korrekt.

Det är ett bra första steg, men det berättar inte tillsynsmyndigheter eller allmänheten något om vad fordonen gjorde eller vad som hände runt dem när människorna tog över. Tester bör undersöka vad algoritmerna styr bilen att göra på motorvägar med lastbilar, och i stadsdelar med djur, barn, fotgängare och cyklister. Testning bör också titta på vad algoritmerna gör när både fordonsprestanda och sensorernas indata äventyras av regn, snö eller andra väderförhållanden. Bilar ska köra igenom scenarier med tillfälliga byggzoner, fyrvägskorsningar, felvägsfordon och poliser som ger vägbeskrivningar som motsäger trafikljus och andra situationer.

Mänskliga körprov inkluderar vissa utvärderingar av en förares omdöme och beslutsfattande, men tester för självkörande bilar borde vara mer rigorösa eftersom det inte finns något sätt att förlita sig på människocentrerade koncept som instinkt, reflex eller självbevarelsedrift. Varje åtgärd en maskin vidtar är ett val, och allmänheten bör vara tydlig med hur troligt det är att dessa val kommer att vara säkra.

Att jämföra med människor

Självkörande bilars algoritmer beräknar ständigt sannolikheter. Hur troligt är det att en viss form är en person? Hur troligt är det att sensordatan betyder att personen går mot vägen? Hur troligt är det att personen kliver ut på gatan? Hur troligt är det att bilen kan stanna innan den träffar henne? Detta liknar faktiskt hur den mänskliga hjärnan fungerar.

Det ger en enkel möjlighet att testa autonoma bilar och alla programuppdateringar som en tillverkare kan distribuera till fordon som redan är på väg:De kan presentera mänskliga testförare och självkörande algoritmer med samma scenarier och övervaka deras prestanda under många försök. Vilken självkörande bil som helst som gör det lika bra som, eller bättre än, människor, kan certifieras som trafiksäker. Detta är mycket likt metoden som används vid drogtester, där ett nytt läkemedels prestanda värderas mot befintliga terapier och metoder som är kända för att vara ineffektiva, som det typiska placebo-sockerpillret.

Företag bör vara fria att testa alla innovationer de vill på sina slutna spår, och även på allmänna vägar med förare som är redo att ta ratten. Men innan självkörande bilar blir vanliga produkter tillgängliga för alla att köpa, allmänheten bör få tydliga bevis på sin säkerhet, tillförlitlighet och effektivitet.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.