Hjärn-datorgränssnitt (BCI) är verktyg som kan koppla samman den mänskliga hjärnan med en elektronisk enhet, vanligtvis med hjälp av elektroencefalografi (EEG). På senare år har framsteg inom maskininlärning (ML) har möjliggjort utvecklingen av mer avancerade BCI-stavare, enheter som låter människor kommunicera med datorer med hjälp av sina tankar.

Än så länge, de flesta studier inom detta område har fokuserat på att utveckla BCI-klassificerare som är snabbare och mer tillförlitliga, snarare än att undersöka deras eventuella säkerhetsbrister. Senare forskning, dock, föreslår att maskininlärningsalgoritmer ibland kan luras av angripare, om de används i datorseende, taligenkänning, eller andra domäner. Detta görs ofta med hjälp av motstridiga exempel, som är små störningar i data som inte går att särskilja av människor.

Forskare vid Huazhong University of Science and Technology har nyligen genomfört en studie som undersöker säkerheten hos EEG-baserade BCI-stavare, och mer specifikt, hur de påverkas av motstridiga störningar. Deras papper, förpublicerad på arXiv, tyder på att BCI-stavare luras av dessa störningar och därför är mycket sårbara för motståndsattacker.

"Den här artikeln syftar till att avslöja ett kritiskt säkerhetsproblem i EEG-baserade BCI-stavare och mer allmänt, EEG-baserade BCI, som har fått lite uppmärksamhet tidigare, " Dongrui Wu, en av forskarna som genomförde studien, berättade för TechXplore. "Det visar att man kan generera små motstridiga EEG-störningsmallar för målattacker för både P300 och steady-state visual evoked potential (SSVEP) stavare, dvs. vilseleda klassificeringen till vilken karaktär angriparen vill ha, oavsett vad den användaravsedda karaktären är."

P300 BCI-stavare används redan i flera inställningar, inklusive på kliniker, för att utvärdera eller upptäcka störningar i medvetandet. Motstridiga attacker mot BCI-stavare kan således få många konsekvenser, allt från enkla användbarhetsproblem till allvarliga patientfeldiagnoser.

"Vi tror att en ny och mer detaljerad förståelse av hur kontradiktoriska EEG-störningar påverkar BCI-klassificeringen kan informera utformningen av BCI:er för att försvara sig mot sådana attacker, " förklarade Wu.

Wu och hans kollegor fann att för att utföra en framgångsrik motståndsangrepp på en BCI-stavare, angriparen behöver bara komma åt en del av de data som används för att träna enheten. Han/hon kan använda dessa data för att träna störningsmallen, därefter lägga till mallen till godartade EEG-försök för att utföra attacken.

Nuvarande tillvägagångssätt för att genomföra motståndsattacker har två huvudsakliga begränsningar. Först, de kräver några ämnesspecifika EEG-prover för att skapa den kontradiktoriska störningsmallen. Andra, för att utföra attacken mer effektivt, angriparen behöver veta den exakta tidpunkten för EEG-stimulansen. Om angriparen lyckas övervinna dessa begränsningar, effekten av hans/hennes attack kan bli mycket större.

"Att försvara motstridiga attacker är ett vanligt forskningsproblem i många tillämpningar av maskininlärning, t.ex., datorsyn, taligenkänning, och BCI, " sa Wu. "Om vi ​​vet hur angriparen tar, då kan vi utveckla strategier för att försvara oss mot det, precis som hur vi försvarar oss mot datavirus:ett virus bryter ut först och sedan hittar vi sätt att döda det."

Angripare försöker alltid komma på nya sätt att kringgå säkerhetsåtgärder, så det är viktigt för forskare att fortsätta undersöka systemsårbarheter och komma med nya säkerhetsåtgärder. Även om det är oundvikligt att riktade säkerhetslösningar utvecklas efter att en specifik sårbarhet har identifierats, Att avslöja allmänna problem med ett system och vidta försiktighetsåtgärder kan vara mycket användbart.

Studien utförd av Wu och hans kollegor har hjälpt till att avslöja allmänna säkerhetsrisker förknippade med EEG-baserade BCI. Deras resultat kan hjälpa till att identifiera preliminära lösningar som kan minska effekterna av kontradiktoriska attacker på dessa enheter.

Wu och hans kollegor hoppas att deras forskning kommer att uppmuntra andra att undersöka begränsningarna och sårbarheten hos EEG-baserade stavare eller andra BCI-enheter. Deras resultat kan i slutändan bana väg för utveckling av tekniker för att stärka säkerheten för BCI, förhindra feldiagnoser och andra oönskade effekter av motståndsattacker.

"Vi vill betona att målet med denna studie inte är att skada EEG-baserade BCI, men för att visa att allvarliga motstridiga attacker mot EEG-baserade BCI:er är möjliga och avslöjar därför en kritisk säkerhetsoro som fått lite uppmärksamhet tidigare, " sa Wu. "I vår framtida forskning, vi planerar att utveckla strategier för att försvara oss mot sådana attacker. Under tiden, vi hoppas att vår studie kan få fler forskare att uppmärksamma säkerheten hos EEG-baserade BCI."

© 2020 Science X Network