Ungdomar använder ofta internet för att söka stöd från sina vänner men får inte alltid hjälpsamma svar. De senaste framstegen inom AI-teknik kan kanske hjälpa till.
Unga människor finner stöd från AI-genererade svar på ämnen som sträcker sig från relationer till fysisk hälsa. När det gäller känsliga ämnen, som självmordstankar, föredrar de mänskliga reaktioner, enligt en studie från University of Michigan och Drexel University som nyligen presenterades vid konferensen om mänskliga faktorer i datorsystem på Hawaii.
Arbetet är publicerat i tidskriften Proceedings of the CHI Conference on Human Factors in Computing Systems .
Under decennier har sociala medier i allt högre grad blivit ungas främsta metod för kamratstödsutbyte. Forskare försökte förstå när och hur AI kan underlätta och hjälpa till med sådana utbyten.
Forskare från UM och Drexel University analyserade enkätsvar från 622 personer i åldern 18 till 24 med erfarenhet av att söka och ge support online. I studien utvärderade deltagarna blinda mänskliga och AI-genererade svar på hjälpsökande meddelanden (vilket innebär att de inte visste vem som skrev svaren). De mänskliga svaren återspeglade olika typer av mänskligt stöd som unga människor kan stöta på, inklusive kamrater, vuxna mentorer och terapeuter.
Resultaten visade att deltagarna svarade positivt på de AI-genererade svaren om relationer, självuttryck och fysisk hälsa, och noterade att de verkade omtänksamma och gav praktiska förslag.
Men de föredrog starkt det mänskligt genererade svaret på hjälpsökande meddelanden om ett känsligt ämne som självmordstankar.
"Den här typen av forskning är viktig för att förstå hur AI kan hjälpa unga människor på ett säkert och effektivt sätt", säger Jordyn Young, doktorand vid UM School of Information och studiens huvudförfattare. "Det är inte bara vad modellen säger, utan också hur. Att vara ärlig om begränsningarna för AI:s hjälpgivande kapacitet är bra, men vi måste formulera det noggrant – särskilt som svar på känsliga avslöjanden."
Eftersom unga människor använder internet dagligen, kan det enligt forskarna vara fördelaktigt på lång sikt att ha olika sätt att dela sina tankar – särskilt med AI-genererade svar.
"Vår forskning tyder på att AI-drivna verktyg kan hjälpa ungdomar att stödja varandra under utmanande tider genom att hjälpa dem att komma på vad de ska säga," sa Young.
Studiens författare vid Drexel inkluderade Laala Jawara, Diep Nguyen, Brian Daly, Jina Huh-Yoo och Afsaneh Razi.
Mer information: Jordyn Young et al, The Role of AI in Peer Support for Young People:A Study of Preferences for Human- and AI-Generated Responses, Proceedings of the CHI Conference on Human Factors in Computing Systems (2024). DOI:10.1145/3613904.3642574
Tillhandahålls av University of Michigan
