En biträdande professor i datavetenskap och teknik vid University of Texas i Arlington har funnit att arbetssökande kan förbättra sin position i genomsnitt med minst 16 platser på en pool med 100 sökande genom att använda en algoritm som använder jobbspecifika nyckelord.

Shirin Nilizadeh sa att hon var motiverad att fortsätta med denna forskning efter att ha sett vänner inte väljas ut för positioner eller andra omgångsintervjuer.

"Vi fick reda på att du kan skräddarsy ditt CV för ett specifikt jobb genom att använda specifika nyckelord som kan få dig att drivas mot toppen," sa hon. "Det är ett slags hack på rekryteringsprocessen."

Nilizadehs artikel – "Attacker mot rankingalgoritmer med textinbäddningar:en fallstudie om rekryteringsalgoritmer" – accepterades i Proceedings of the Fourth BlackboxNLP Workshop on Analysing and Interpreting Neutral Networks for NLP . Anahita Samadi, nu doktorand vid UTA som studerade under Nilizadeh, ledde projektet och presenterade det vid 2021 års konferens om Empirical Methods in Natural Language Processing.

Textinbäddningsalgoritmer som används vid jobbrekrytering matchar ord och meningar i CV:n till arbetsbeskrivningen för att få likhetspoäng. Meritförteckningar rankas baserat på dessa poäng. Få studier har hittills visat att rankningsalgoritmer som använder textinbäddningar är sårbara för motståndsattacker.

"Vi trodde att rekryteringsalgoritmer var det bästa exemplet på sådana rankningsalgoritmer och därför bestämde vi oss för att arbeta med dem," sa Nilizadeh. "Målet med vår attack var att identifiera nyckelorden från jobbbeskrivningen som kan förbättra rankningen av CV:t."

Som förväntat förbättras rankningen genom att lägga till fler sökord. Forskningen visade dock också att om du lägger till för många liknande ord eller fraser kanske inte rankningen av ett CV förbättras.

Ett av huvudämnena som Nilizadeh studerar i UTA Security and Privacy Research Lab är kontradiktorisk robusthet hos artificiell intelligens (AI)-baserade, datadrivna system. Med andra ord, hon testar system som använder AI mot möjliga attacker och utvärderar robustheten hos dessa system.

Hong Jiang, ordförande och professor vid institutionen för datavetenskap och teknik, sa att Nilizadehs arbete är lovande.

"Det kan vara ett verktyg som potentiella anställda och arbetsgivare kan använda i jobbsökningsprocessen," sa Jiang.