Kan du föreställa dig en värld utan personliga Spotify -spellistor, kuraterade flöden för sociala medier, eller rekommenderade kattvideor på sidofältet på YouTube? Dessa moderna bekvämligheter, som möjliggjordes av artificiell intelligens (AI), presentera också ett skrämmande förslag - att maskinerna kan sluta veta mer om oss än vi själva gör.

Enligt Gartners CIO Agenda -undersökning från 2019, 37 procent av Chief Information Officers (CIO) globalt har redan använt AI -teknik i sina organisationer. Det snabba antagandet av AI -lösningar sätter fokus på hur data - som kan bestå av känsliga, konfidentiell och personlig information - hanteras och används av organisationer.

På tal vid konferenspanelen om 'AI och dataskydd:nya regleringsmetoder', Singapore Management University (SMU) docent Warren Chik gav sitt perspektiv på hur man konceptualiserar förtroende i en digital tid. "När det gäller frågor som personuppgifter, vi behandlar inte AI som gud. Därför, vi kan inte lita på tro, vilket är vad religion kräver. Vi behöver något mer omfattande än så, " han sa.

I sitt föredrag med titeln 'Artificiell intelligens och dataskydd i Singapore:Konsumenternas förtroende, Organisatorisk säkerhet och regeringsförordning '', Professor Chik förklarade att för att skapa förtroende för en digital lösning, det är avgörande att användarna engageras i de frågor som berörs. "Folk tenderar att frukta det okända, och det är svårt att lita på något som du inte vet. "

Modererat av professor David Llewelyn, Vice dekanus vid SMU School of Law, högtalarna i rundbordet, professor Ian Walden, Center for Commercial Law Studies, Queen Mary University of London; Docent Yip Man (vars uppsats presenterades av docent Alvin See för hennes räkning); liksom kommentatorer KK Lim, Chef för cybersäkerhet, Sekretess och dataskydd, Eversheds Harry Elias; och herr Lanx Goh, Senior juridisk rådgivare (sekretess och cybersäkerhet) och globalt dataskyddsombud, Klook Travel Technology.

AI som påverkare

Ett AI -systems förmåga att genomföra personlig profilering kan i grunden förändra en användares digitala personlighet, sade professor Chik, belyser en orsak till oro för många.

"Medan en AI innehåller specifik information som ditt namn och din adress, det bildar också sin egen kunskap om din identitet, och vem du är som person, "Professor Chik sa, citerar algoritmer som används av sociala medier för att samla in data om sin identitet, intressen och surfvanor. Från dessa uppgifter, systemet skapar sedan en profil om vem de tror att du är.

"Dessa algoritmer - som kan vara rätt eller fel - ger dig information, artiklar och länkar, och som ett resultat ger det en effekt på ditt tänkande. Med andra ord, AI kan forma mänskligt beteende, och detta är en risk som gör många människor obekväma, "Sade professor Chik. Hotet är mycket verkligt, han betonade, noterar att tillsynsmyndigheter tydligt har identifierat ett behov av att reglera användningen av data i AI.

I Singapore, till exempel, lagen om skydd mot online falskhet och manipulation (POFMA) innehåller straffrättsliga bestämmelser om skapandet, användning och ändring av bots för att sprida falsk information.

Dataskyddslagstiftning:en balansgång

I ett försök att reglera data, det finns alltid två konkurrerande mål när man reglerar användningen, insamling och behandling av personuppgifter. "Det första målet är att skydda den registrerade, och det andra är att främja innovation, "sade professor Se, som presenterade professor Yips uppsats för hennes räkning.

Av de olika typerna av skydd för registrerade som finns idag, det vanligaste alternativet är att använda kontrakt. Professor Yips uppsats påpekar att "[problemet] med att försöka reglera dataanvändning genom villkor är att i de flesta fall, människor läser inte [det lagliga finstilta] ". Samtycke som ges är därför inte äkta.

Professor Llewelyn, som modererade rundabordet, tillade att innebörden av samtycke är en fråga som behöver utforskas mer ingående. "Om en konsument skulle acceptera ett onlineavtal i sin helhet utan att läsa det, kan det realistiskt sägas att han eller hon har godkänt alla villkor, och fått fullt samtycke? "frågade han." Kanske borde det finnas juridiskt erkännande av den automatiska karaktären av åtagandet i sådana kontrakt. "

En mer kritisk begränsning av kontraktet som skydd för den registrerade, är att kontraktet endast styr informationen som delas mellan de två parter som är bundna av kontraktet. Till exempel, om Facebook skulle överföra en användares personuppgifter till en tredje part som inte är bunden av kontraktet, tredjepartsföretaget kommer inte att vara skyldigt att skydda användarens information.

Dataskydd genom design

Singapores personuppgiftsskyddslag (PDPA), som reglerar personuppgifter genom användning av lagstiftning, beskrivs som lätt beröringsregim som har ett starkt balanserat förhållningssätt mellan behovet av integritetsskydd och intresset för företagsinnovation.

Professor Yips uppsats erkänner att det finns en viss spänning mellan de två målen som nämns ovan. Den aktuella frågan, därför, är hur man hittar en balans mellan individuella rättigheter och integritet, och det konkurrerande intresset för ekonomisk tillväxt och innovation, noterade hon.

Vid slutet av dagen, fokus ligger på att förebygga, snarare än att försöka åtgärda ett intrång i dataskydd. "Det handlar om att erkänna individens rättigheter och sekretessen för deras uppgifter, och på samma gång, behovet av att organisationer samlar in, använda och avslöja personuppgifter för legitima och rimliga ändamål, "Professor Yips uppsats tillagd.

En annan lösning som professor Yip undersökte i sin uppsats var användning av teknik istället för lag för att skydda registrerade. I vissa fall, integritet kan direkt byggas in i design och drift av operativsystem, arbetsprocesser, nätverksinfrastruktur och till och med fysiska utrymmen. Hon understryker ändå att den här lösningen inte är perfekt eftersom den strider mot företagens intresse som utnyttjar data för att göra vinst för att bygga robusta integritetsskydd i sina system och affärsmodeller.