Kredit:Pixabay/CC0 Public Domain
Mobila enheter använder ansiktsigenkänningsteknik för att hjälpa användare att snabbt och säkert låsa upp sina telefoner, göra en finansiell transaktion eller komma åt medicinska journaler. Men tekniker för ansiktsigenkänning som använder en specifik metod för användaridentifiering är mycket sårbara för djupförfalskade attacker som kan leda till betydande säkerhetsproblem för användare och applikationer, enligt ny forskning som involverar Penn State College of Information Sciences and Technology.
Forskarna fann att de flesta applikationsprogrammeringsgränssnitt som använder ansiktsverifiering – en funktion i ansiktsigenkänningsteknik som använder datorseende för att bekräfta närvaron av en liveanvändare – inte alltid upptäcker digitalt förändrade foton eller videor av individer som gjorts för att se ut som en liveversion av någon annan, även känd som deepfakes. Appar som använder dessa upptäcktsåtgärder är också betydligt mindre effektiva när det gäller att identifiera deepfakes än vad appleverantören har hävdat.
"Under de senaste åren har vi observerat en betydande utveckling av ansiktsautentiserings- och verifieringstekniker, som har använts i många säkerhetskritiska applikationer", säger Ting Wang, docent i informationsvetenskap och teknik och en huvudutredare i projektet. "Under tiden har vi också sett betydande framsteg inom deepfake-teknologier, vilket gör det ganska enkelt att syntetisera ansiktsbilder och videor som ser levande ut till låg kostnad. Vi ställer därför den intressanta frågan:Är det möjligt för illvilliga angripare att missbruka deepfakes för att lura ansiktsbehandlingen verifieringssystem?"
Forskningen, som presenterades denna vecka vid USENIX Security Symposium, är den första systemiska studien om säkerheten för verifiering av ansiktsliv i verkliga miljöer.
Wang och hans medarbetare utvecklade ett nytt djupfakedrivet attackramverk, kallat LiveBugger, som möjliggör anpassningsbar, automatiserad säkerhetsutvärdering av verifiering av ansiktslivlighet. De utvärderade sex ledande kommersiella applikationsprogrammeringsgränssnitt för verifiering av ansiktslivlighet. Enligt forskarna kan eventuella sårbarheter i dessa produkter ärvas av andra appar som använder dem, vilket potentiellt hotar miljontals användare.
Genom att använda djupfalska bilder och videor säkrade från två separata datamängder försökte LiveBugger lura appens metoder för verifiering av ansiktslivlighet, som syftar till att verifiera en användares identitet genom att analysera statiska bilder eller videobilder av deras ansikte, lyssna på deras röst eller mäta deras svar. att utföra en åtgärd på kommando.
Forskarna fann att alla fyra av de vanligaste verifieringsmetoderna lätt kunde kringgås. Förutom att belysa hur deras ramverk gick förbi dessa metoder, föreslår de förslag för att förbättra teknikens säkerhet – inklusive att eliminera verifieringsmetoder som bara analyserar en statisk bild av en användares ansikte, och matcha läpprörelser med en användares röst i metoder som analyserar både ljud och video från en användare.
"Även om verifiering av ansiktslivlighet kan försvara sig mot många attacker, väcker utvecklingen av deepfake-teknologier ett nytt hot mot det, om vilket lite är känt än så länge", säger Changjiang Li, doktorand i informationsvetenskap och teknik och medförfattare på papper. "Våra resultat är till hjälp för leverantörer att åtgärda sårbarheterna i sina system."
Forskarna har rapporterat sina resultat till de leverantörer vars applikationer användes i studien, varav en sedan tillkännagav sina planer på att genomföra ett deepfake-detekteringsprojekt för att ta itu med det framväxande hotet.
"Verifiering av ansiktslivlighet har använts i många kritiska scenarier, såsom onlinebetalningar, onlinebanker och statliga tjänster," sa Wang. "Dessutom har ett ökande antal molnplattformar börjat tillhandahålla ansiktsverifiering som plattform-som-en-tjänst, vilket avsevärt minskar kostnaderna och sänker barriären för företag att använda tekniken i sina produkter. Därför är säkerheten för ansiktsbehandling" verifiering av livlighet är mycket oroande." + Utforska vidare
