Att visa hur utmanande det är att hålla privat data säker, forskare från Imperial College London har presenterat en attack mot ett nytt dataskyddssystem som heter Diffix, vars banbrytande teknologi nyligen har kommersialiserats och godkänts av den franska dataskyddsmyndigheten CNIL för att uppfylla de fullständiga kriterierna för GDPR (General Data Protection Regulation) – EU:s nya dataskyddslagstiftning som ska träda i kraft i slutet av maj.

Men nu har forskarna visat att använder endast fem attribut för en individ och ställer 10 noggrant utvalda frågor till det frågebaserade systemet, det är möjligt att bestämma individens privata attribut med upp till 99% noggrannhet.

Forskarna, Andrea Gadotti, Florimond Houssiau, Luc Rocher, och Yves-Alexandre de Montjoye från avdelningarna för datavetenskap och datavetenskap vid Imperial College London, har skrivit en artikel om deras bullerexploateringsattack på Diffix, som utvecklades av den tyska start-upen Aircloak. Diffix använder teknik som banat väg för forskare vid Max Planck Institute under flera år.

Som forskarna vid Imperial College London förklarar, syftet med deras attack är att belysa behovet av både full insyn i alla nya datasekretesssystem, tillsammans med en community som har full tillgång till teknikerna för att upptäcka och diskutera potentiella sårbarheter.

"Vi måste acceptera att inget system är perfekt, " skriver forskarna i sin blogg på Computational Privacy Group. "Det kommer att bli attacker, och några av dem kommer att lyckas. Vi måste förbereda oss för detta och lära av bästa praxis inom säkerhet:se till att det finns flera säkerhetslager, att inte ha all data på ett ställe (det Jean-Pierre Hubaux kallar Fort Knox-metoden), etc. Vi behöver också att standarder och system är helt transparenta och öppna. Att bygga säkra system kräver att alla kan granska koden utan tekniska eller juridiska hinder, föreslå lösningar och bygga vidare på befintligt arbete."

Dataskyddssystem utvecklas snabbt, med traditionella tillvägagångssätt baserade på dataanonymisering som nu är föråldrade, beror delvis på de stora storlekarna och användningarna av moderna datamängder. Alternativ till dataanonymisering, till exempel frågebaserade system som det som används av Diffix, ge en lovande ny lösning. I dessa system, användare kan ställa frågor om datasystemet och få sammanlagda resultat som svar. Denna metod syftar till att hitta en balans mellan att använda uppgifterna för användbara ändamål, som att utföra forskning och bekämpa sjukdomar, samtidigt som individuell integritet bevaras.

I Diffix, integritetsskyddet kommer till stor del från tillsatsen av buller. Lite ironiskt nog, forskarna utnyttjar detta buller i deras attack för att härleda privat information om individer i databasen. Att göra detta, de genomför en korsningsattack, där de ställer två frågor som frågar efter antalet individer i datasetet som uppfyller vissa villkor. De två frågorna skiljer sig endast med ett villkor, så att genom att beräkna skillnaden mellan resultaten är det möjligt att ta bort en del av bruset. Forskarna visade att genom att erhålla fem par av dessa resultat, och sedan utföra ett statistiskt test (sannolikhetsförhållandetest), det är möjligt att fastställa viss information om en individ – t.ex. om personen har hiv eller inte.

Även om forskarna pekar på några begränsningar av deras attack, de tror att det avslöjar en allvarlig sårbarhet i systemet, och ger en påminnelse om att integritetsskydd kommer att fortsätta att vara en ständig utmaning.

© 2018 Tech Xplore