Varje gång du laddar upp ett foto eller en video till en social medieplattform, dess ansiktsigenkänningssystem lär dig lite mer om dig. Dessa algoritmer tar in data om vem du är, din plats och personer du känner – och de förbättras hela tiden.

När oron över integritet och datasäkerhet på sociala nätverk växer, U of T Engineering forskare ledda av professor Parham Aarabi och doktorand Avishek Bose har skapat en algoritm för att dynamiskt störa ansiktsigenkänningssystem.

"Personlig integritet är en verklig fråga eftersom ansiktsigenkänning blir bättre och bättre, " säger Aarabi. "Detta är ett sätt på vilket fördelaktiga anti-ansiktsigenkänningssystem kan bekämpa den förmågan."

Deras lösning utnyttjar en djupinlärningsteknik som kallas motstridig träning, som ställer två artificiell intelligensalgoritmer mot varandra. Aarabi och Bose designade en uppsättning av två neurala nätverk:det första arbetar för att identifiera ansikten, och den andra arbetar för att störa den förstas ansiktsigenkänningsuppgift. De två kämpar ständigt och lär sig av varandra, sätta upp en pågående AI-kapprustning.

Resultatet är ett Instagram-liknande filter som kan appliceras på foton för att skydda integriteten. Deras algoritm ändrar mycket specifika pixlar i bilden, göra förändringar som är nästan omärkliga för det mänskliga ögat.

"Den störande AI kan 'attackera' det neurala nätet för ansiktsdetektering letar efter, " säger Bose. "Om detektions-AI letar efter ögonvrån, till exempel, den justerar ögonvrån så att de är mindre märkbara. Det skapar mycket subtila störningar i bilden, men för detektorn är de tillräckligt betydande för att lura systemet."

Aarabi och Bose testade sitt system på 300-W ansiktsdataset, en industristandardpool med mer än 600 ansikten som inkluderar ett brett spektrum av etniciteter, ljusförhållanden och miljöer. De visade att deras system kunde minska andelen ansikten som ursprungligen var detekterbara från nästan 100 procent ner till 0,5 procent.

"Nyckeln här var att träna de två neurala nätverken mot varandra - där det ena skapar ett allt mer robust ansiktsdetekteringssystem, och den andra skapar ett allt starkare verktyg för att inaktivera ansiktsdetektering, säger Bose, huvudförfattaren på projektet. Teamets studie kommer att publiceras och presenteras vid 2018 IEEE International Workshop on Multimedia Signal Processing senare i sommar.

Förutom att inaktivera ansiktsigenkänning, den nya tekniken stör också bildbaserad sökning, funktionsidentifiering, uppskattning av känslor och etnicitet, och alla andra ansiktsbaserade attribut som kan extraheras automatiskt.

Nästa, teamet hoppas kunna göra sekretessfiltret allmänt tillgängligt, antingen via en app eller en webbplats.

"För tio år sedan skulle dessa algoritmer vara mänskliga definierade, men nu lär sig neurala nät av sig själva – du behöver inte ge dem något annat än träningsdata, " säger Aarabi. "I slutändan kan de göra några riktigt fantastiska saker. Det är en fascinerande tid på fältet, det finns en enorm potential."