Med autokorrigering och automatiskt genererade e-postsvar erbjuder algoritmer massor av hjälp för att hjälpa människor att uttrycka sig.

Men ny forskning från University of Georgia visar att människor som förlitar sig på datoralgoritmer för hjälp med språkrelaterade, kreativa uppgifter inte förbättrade deras prestanda och var mer benägna att lita på råd av låg kvalitet.

Aaron Schecter, en biträdande professor i ledningsinformationssystem vid Terry College of Business, publicerade sin studie "Human preferenser to algorithmic advice in a word association task" denna månad i Scientific Reports . Hans medförfattare är Nina Lauharatanahirun, biträdande professor i biobehavioral hälsa vid Pennsylvania State University, och nyligen Terry College Ph.D. doktorand och nuvarande biträdande professor vid Northeastern University, Eric Bogert.

Uppsatsen är den andra i teamets undersökning av individuellt förtroende för råd som genereras av algoritmer. I en artikel från april 2021 fann teamet att människor var mer beroende av algoritmiska råd när det gäller att räkna uppgifter än på råd som påstås givits av andra deltagare.

Denna studie syftade till att testa om människor höll på med en dators råd när de tog sig an mer kreativa och språkberoende uppgifter. Teamet fann att deltagarna var 92,3 % mer benägna att använda råd som tillskrivs en algoritm än att ta emot råd som tillskrivs människor.

"Denna uppgift krävde inte samma typ av tänkande (som räkneuppgiften i den tidigare studien) men i själva verket såg vi samma fördomar," sa Schecter. "De skulle fortfarande använda algoritmens svar och må bra av det, även om det inte hjälper dem att bli bättre."

Använda en algoritm under ordassociering

För att se om människor skulle lita mer på datorgenererade råd för språkrelaterade uppgifter gav Schecter och hans medförfattare 154 onlinedeltagare delar av Remote Associates Test, ett ordassociationstest som använts i sex decennier för att betygsätta en deltagares kreativitet.

"Det är inte ren kreativitet, men ordassociation är en fundamentalt annorlunda uppgift än att göra en stockprojektion eller räkna objekt i ett foto eftersom det involverar lingvistik och förmågan att associera olika idéer", sa han. "Vi ser det här som mer subjektivt, även om det finns ett rätt svar på frågorna."

Under testet ombads deltagarna att komma på ett ord som knyter samman tre exempelord. Om orden till exempel var bas, rum och bowling skulle svaret vara boll.

Deltagarna valde ett ord för att svara på frågan och erbjöds en ledtråd som tillskrivs en algoritm eller en ledtråd som tillskrivs en person och fick ändra sina svar. Preferensen för algoritmhärledda råd var stark trots frågans svårighetsgrad, hur råden formulerades eller rådens kvalitet.

Deltagare som tog algoritmens råd var också dubbelt så säkra på sina svar som personer som använde personens råd. Trots deras tilltro till sina svar var de 13 % mindre sannolikt än de som använde mänskliga råd för att välja korrekta svar.

"Jag tänker inte säga att rådet gjorde människor sämre, men det faktum att de inte gjorde bättre ifrån sig men ändå kände sig bättre med sina svar illustrerar problemet," sa han. "Deras självförtroende ökade, så de kommer sannolikt att använda algoritmiska råd och må bra av det, men de kommer inte nödvändigtvis att ha rätt.

Ska du acceptera autokorrigering när du skriver ett e-postmeddelande?

"Om jag har en autoslutförande- eller autokorrigeringsfunktion på min e-post som jag tror på, kanske jag inte tänker på om det gör mig bättre. Jag kommer bara att använda den för att jag känner mig säker på att göra det."

Schechter och kollegor kallar denna tendens att acceptera datorgenererade råd utan att ta hänsyn till dess kvalitet som automationsbias. Att förstå hur och varför mänskliga beslutsfattare väljer att använda maskininlärningsprogramvara för att lösa problem är en viktig del av att förstå vad som kan gå fel på moderna arbetsplatser och hur man kan åtgärda det.

"Ofta när vi pratar om huruvida vi kan tillåta algoritmer att fatta beslut, att ha en person i slingan ges som lösningen för att förhindra misstag eller dåliga resultat," sa Schecter. "Men det kan inte vara lösningen om människor är mer benägna än inte att skjuta till vad algoritmen rekommenderar." + Utforska vidare

Människor kan lita på datorer mer än människor