Notering till Mark Zuckerberg:Akta dig för desinformation

Forskning från USC Marshall School of Business visar att desinformation är en affärsrisk för sociala medieplattformar, och föreslår informationsmetoder för att lindra fenomenet "falska nyheter".

En färsk tidning antyder att även om viralt innehåll är bra för intäkterna (via ökad tittarsiffra och den åtföljande ökningen av reklam), det utgör en fara för slutresultatet. Den skrevs av Kimon Drakopoulos, biträdande professor i datavetenskap och operationer vid USC Marshall, och Ozan Candogan, biträdande professor i operations management vid University of Chicagos Booth School of Business.

"Våra modeller visar att engagemangsnivåerna faller när användare inte varnas för inlägg som innehåller felaktig information, " sade Drakopoulos. "Och de faller inte bara; de faller till lägre nivåer än när användarna varnas."

Forskarna såg klicken minska med mer än hälften när plattformar inte hade en falsk nyhetsvarning. Att inte ingripa kan leda till en ännu större nedgång i engagemang, sa Drakopoulos. När användarna inser att de får falska nyheter, oavsett om de lär sig det från en extern källa eller på annat sätt, de tappar förtroendet för webbplatsen som förmedlade det.

Facebook har börjat placera en ikon för "mer information" på delade inlägg, som tar en användare till nyhetsartikelns ursprungliga webbplats, men överlåter till användaren att avgöra om det är en trovärdig nyhetskälla.

Varför falska nyheter sprids – engagemang och desinformation

Drakopoulos vill använda sina resultat för att förstå hur man kan optimera falska nyhetsvarningar.

"Titta på hur falska nyheter fortskrider, " sa han. "Det ser likadant ut som en smitta, men det är annorlunda. Vi vill veta varför falska nyheter sprids och hur vi kan förhindra det.

"Vi är vid gränsen för vad som kan uppnås via olika mekanismer för engagemang och desinformation."

En viktig insikt:Utnyttja nätverksstrukturen för att kringgå spridningen av falska nyheter.

"Nätverk har multiplikativa effekter, " sade Drakopoulos. "Varför inte använda en nätverksingripande för att utnyttja dem?"

Facebook-incitament

Går vidare, plattformar måste fokusera på incitamentsfrågorna vid skapande och övervakning av innehåll, föreslår forskarna. Till exempel, Facebook kan ge incitament, i form av anseendepoäng, monetära incitament eller andra privilegier, till användare som lämnar in leverantörer av falska nyheter.

"Det kan få folk att tänka två gånger, " sade Drakopoulos. "Engagemang kan gå ner, men kvaliteten kommer att öka, vilket leder till en långsiktig sund återhämtning av engagemanget."

Nästa steg i hans forskningsagenda är att arbeta med Gad Allon, Jeffrey A. Keswin professor i operationer, Information och beslut vid Wharton School, och Vahideh Manshadi vid Yale SOM för att utveckla ett beteendeexperiment som kan visa hur användare faktiskt konsumerar och internaliserar information, och vilka aspekter av detta beteende som leder till de aktuella fenomenen politisk polarisering och ofullständigt lärande. Forskarna räknar med att avsluta experimentet i slutet av året.

För mycket information

"Om de teoretiska rönen som initierade projektet är sanna, " sade Drakopoulos, "för mycket information, förvånande, leder till ofullständig inlärning. De besvärliga fenomenen vi ser är resultatet av överflöd av information på sociala medier."

Projektet, delvis finansierad av USC Marshall's Institute for Outlier Research, kommer att bygga på tidigare arbete Drakopoulos har gjort på de ekonomiska övervägandena av smittspridning och socialpolitik.

"Beslut är i slutändan ekonomiska, " han sa.