I en ny studie lyfter forskare fram de sociokulturella faktorerna som ligger bakom oro för Gen Z-medlemmar över hela världen för känslomässig AI och hur acceptabelt det är för dem. Kredit:Ritsumeikan Asia Pacific University
AI har överallt i tekniken. Ändå hade det saknat en avgörande egenskap:förmågan att engagera mänskliga känslor.
Detta håller dock på att förändras. Algoritmer som kan känna av mänskliga känslor och interagera med dem håller snabbt på att bli vanliga när de är inbäddade i befintliga system. Känd som "emotionell AI", den nya tekniken uppnår denna bedrift genom en process som kallas "icke-medveten datainsamling" (NCDC), där algoritmen samlar in data om användarens hjärta och andningsfrekvens, rösttoner, mikroansiktsuttryck, gester, etc. för att analysera deras humör och anpassa svaret därefter.
Den oreglerade karaktären hos denna teknik har dock väckt många etiska och integritetsproblem. I synnerhet är det viktigt att känna till attityden hos den nuvarande största demografiska inställningen till NCDC, nämligen Generation Z (Gen Z). Generation Z, som utgör 36 % av den globala arbetsstyrkan, är sannolikt den mest utsatta för känslomässig AI. Dessutom är AI-algoritmer sällan kalibrerade för sociokulturella skillnader, vilket gör implementeringen desto mer oroande.
I en ny studie som gjordes tillgänglig online den 9 juni 2022 och publicerades i volym 70 av Technology in Society den 22 juni 2022 strävade ett team av forskare, inklusive professor Peter Mantello och prof. Nader Ghotbi vid Ritsumeikan Asia Pacific University, Japan, efter att avslöja faktorerna som styr Gen Z:s reaktion på känslomässig AI. "NCDC representerar en ny utveckling i relationer mellan människa och maskin, och är mycket mer invasiva jämfört med tidigare AI-tekniker. Mot bakgrund av detta finns det ett akut behov av att bättre förstå deras inverkan och acceptans bland Gen Z-medlemmarna", säger Prof. Mantello.
Teamet undersökte 1 015 Gen Z-respondenter som spänner över 48 länder och åtta regioner över hela världen. Deltagarna tillfrågades om deras attityder till NCDC, som används av både kommersiella och statliga aktörer. De använde sedan en Bayesiansk multinivåanalys för att kontrollera för variabler och observera effekten av varje variabel åt gången.
Teamet fann att totalt sett var mer än 50 % av de tillfrågade oroade över användningen av NCDC. Men attityden varierade beroende på kön, inkomst, utbildningsnivå och religion.
"Vi fann att att vara man och att ha hög inkomst båda var korrelerade med att ha positiva attityder till att acceptera NCDC. Dessutom var företagsledare mer benägna att vara mer toleranta mot NCDC", säger Prof. Ghotbi. Kulturella faktorer, såsom region och religion, visade sig också ha en inverkan, med människor från Sydostasien, muslimer och kristna som rapporterade oro över NCDC.
"Vår studie visar tydligt att sociokulturella faktorer djupt påverkar acceptansen av ny teknik. Detta innebär att teorier baserade på Davis traditionella teknologiacceptansmodell, som inte tar hänsyn till dessa faktorer, behöver modifieras", förklarar Prof. Mantello.
Studien tog upp denna fråga genom att föreslå en "mind-svamp" modellbaserad metod som tar hänsyn till sociokulturella faktorer vid bedömningen av acceptansen av AI-teknik. Dessutom föreslog det också en grundlig förståelse av de potentiella riskerna med tekniken för att möjliggöra effektiv styrning och etisk design. "Offentliga uppsökande initiativ behövs för att göra befolkningen medveten om de etiska konsekvenserna av NCDC. Dessa initiativ måste beakta de demografiska och kulturella skillnaderna för att vara framgångsrika", säger Dr. Nguyen.
Sammantaget belyser studien i vilken utsträckning känslomässig AI och NCDC-tekniker redan är utplacerade och de avvägningar om integritet som de innebär för den yngre generationen. Det finns därför ett akut behov av att se till att dessa teknologier tjänar både individer och samhällen väl. + Utforska vidare
