Sluta. Kan du lura ett Tesla Autopilot-system med en projektor?

Verkligen, en projicerad bild av en människa betraktas av bilsystemet som en verklig person?

Och säger du att Mobileye 630 PRO betraktar den projicerade vägskylten som en riktig vägskylt?

Detta är fynd av ett team av forskare som visade vilka typer av fantomattacker som kan uppstå för att lura förarassistanssystem.

Teamet skrev ett papper och levererade en videodemo om sina experiment och resultat. Tidningen heter "Phantom of the ADAS:Phantom Attacks on Driver-Assistance Systems."

Författarna är Ben Nassi, Dudi Nassi, Raz Ben-Netanel, Israel Mirsky, Oleg Drokin, och Yuval Elovici. Författartillhörigheter inkluderar Ben-Gurion University of the Negev och Georgia Tech. De använde Tesla Model X och Mobileye 630 PRO-systemen för att testa. De använde också ett antal projicerade bilder; dessa inkluderade en människofigur och en hastighetsskylt på gatan.

De ville veta om man kan få ett system att tro att det är en verklig världssituation - att förvirra systemet och ta en nivå av kontroll över systemet. "Fantomer kan också få Tesla Model X (HW 2.5) att plötsligt bromsa."

En videodemo visade hur bilen minskade sin hastighet från 18 mph till 14 mph som ett resultat av en fantom som upptäcktes som en person.

Lägg märke till att de använde ordet "fantom" mycket - "En fantom är ett djuplöst objekt avsett att få ADAS och autopilotsystem att uppfatta objektet och betrakta det som verkligt. Objektet kan vara ett hinder (t.ex. person, bil, lastbil, motorcykel), körfält, eller vägmärke, sa Nassi.

Men varför skulle ett känt självkörande varumärke som Tesla ha ett system som skulle se fantomer som verkliga hinder? Nassi tog upp detta på sin sida i FAQ-sektionen. "Vi tror att detta förmodligen är resultatet av en 'bättre säker än förlåt'-policy som betraktar en visuell projektion som ett verkligt objekt även om objektet inte detekteras av andra sensorer (t.ex. radar och ultraljudssensorer)."

Falska väglinjer var en del av deras experiment och en instruktion lästes om att gå över till andra sidan vägen, via falska linjer och fantombanor.

Alex Kidman, Gizmodo , skrev om experimenten i onsdags. Problemet med Mobileye och Tesla-system, han skrev, var att forskarna fann att bildigenkänningsmodellen gjorde att fantomobjekten kunde kännas igen som verkliga. Allt som allt, det finns en stor perceptuell utmaning när fantomattacker går mot avancerade körhjälpssystem (ADAS) och autopiloter.

En video från 28 januari postades av Cyber ​​Security Labs vid Ben Gurion University.

Teslas autopilotverktyg anses allmänt vara den nuvarande guldstandarden i autonoma fordon, sa Gizmodo . Verkligen, författarna till tidningen betraktar Mobileye 630 PRO och Tesla Model X, HW 2.5 som dagens mest avancerade ADAS- och autopilotteknologier.

Teslas autopilotnivå tillåter begränsad, inte full, självkörande:fordonet har full kontroll endast i vissa situationer och kommer att informera föraren när den ska ta över.

Som Ars Technica Jim Salter betonade i sin artikel, "Självklart, ingen borde låta en Tesla köra sig själv utan tillsyn i första hand, " eftersom autopilot inte är styrenheten för en helt autonom bil.

Salter gjorde det för att överbrygga till en annan viktig punkt:"Inom dessa begränsningar, till och med de värsta svaren som visas i Nassis video – att Model X svänger för att följa falska körfältsmarkörer på vägen – verkar inte så illa. Faktiskt, det klippet visar exakt vad som borde hända:ägaren till Model X – orolig för vad fan hans eller hennes dyra bil kan göra – slog i bromsen och tog kontrollen manuellt efter att autopiloten gick i en osäker riktning."

Teamet sa att de avslöjade fynden för Mobileye och Tesla, de två systemen som användes i experimenten. "Vi höll Tesla och Mobileye uppdaterade via en serie mail som skickades från början av maj till 19 oktober."

Sammanfattningen från deras papper:

"...vi undersöker en ny perceptuell utmaning som får ADAS och autopiloter av semi/helt autonoma att betrakta djuplösa objekt (fantomer) som verkliga. Vi visar hur angripare kan utnyttja denna perceptuella utmaning...utan att behöva fysiskt närma sig attackplats, genom att projicera en fantom via en drönare utrustad med en bärbar projektor eller genom att presentera en fantom på en hackad digital skylt som vetter mot internet och som är placerad nära vägar... en bils ADAS eller autopilot betraktar fantomerna som verkliga objekt, får dessa system att utlösa bromsarna, styra in i körfältet för mötande trafik, och utfärda meddelanden om falska vägskyltar."

Begränsningsalternativ? Författarna, att mildra, presenterade "en modell som analyserar ett detekterat objekts sammanhang, yta, och reflekterat ljus, som kan detektera fantomer med 0,99 AUC. Till sist, vi förklarar varför utbyggnaden av fordonskommunikationssystem kan minska angriparnas möjligheter att tillämpa fantomattacker men inte kommer att eliminera dem."

Salter gick tillbaka till sex månader sedan, när "Ben Nassi, en Ph.D. student vid Ben-Gurion University med råd av professor Yuval Elovici, genomförde en uppsättning framgångsrika spoofingattacker mot ett Mobileye 630 Pro Driver Assist System med hjälp av billiga drönare och batteridrivna projektorer. Sedan dess, han har utökat tekniken för att experimentera – också framgångsrikt – med att förväxla en Tesla Model X."

Salter, allt som allt, vägde in med hans syn på vad forskningen lärde ut och varför det var viktigt:"för det mesta, Det ser för oss ut som att Tesla reagerar ganska rimligt och bra på dessa avsiktliga försök att förvirra sina sensorer. Vi tycker att den här typen av arbete är viktigt, dock, eftersom det visar behovet av defensiv design av semi-autonoma körsystem."

Författarna i sin tidning skrev, "Vi har inget emot Tesla eller Mobileye, och anledningen till att deras produkter användes i våra experiment är för att deras produkter är de bästa och mest populära produkterna som finns på marknaden."

© 2020 Science X Network