Endast en liten mängd falska nyheter behövs för att störa någon debatt eller diskussion om en fråga, enligt forskning publicerad idag i PLOS ETT .

Men det finns ett sätt att avskräcka dem som sprider falska nyheter, och till och med att utplåna det helt och hållet.

Forskningen är experimentell, baserat på modellering och simuleringar, men det visar åtminstone att det är möjligt att motverka spridningen av desinformation.

Uppkomsten av falska nyheter

Spridningen av busig och falsk information har plågat mänskliga samhällen i århundraden.

I denna tid av omedelbar global digital anslutning, den nuvarande inkarnationen av "falska nyheter" har blivit ett gissel och utnyttjas för personlig eller politisk vinning.

Sociala media, utformad för att uppmuntra användare att bidra och dela innehåll, har blivit den stora möjliggöraren för spridningen av falska nyheter.

Från nationer som blandar sig i demokratiernas politik och politiska partier som försöker manipulera den allmänna opinionen, till en vinstcentrerad "fake news"-industri, alla har utnyttjat denna spridning för vinning, sår förvirring och osämja i de offerpopulationer de riktar sig till.

Simuleringsspelet

Vi gjorde några experiment i syfte att förstå de mer grundläggande mekanismerna som bestämmer beteendet hos falska nyheter i befolkningar.

Vi var särskilt intresserade av två frågor:

1. hur stor inverkan falska nyheter kan ha på konsensusbildning i en befolkning
2. effekten av kostnaden för att distribuera falska nyheter på dess förmåga att angripa en befolkning.

I den verkliga världen, kostnader kan vara externa, såsom böter, straff, uteslutningar, utgifter för att skapa och distribuera förfalskningar; eller så kan de vara interna, såsom känslor av förlust eller förlägenhet på grund av att bli förlöjligad eller skämd.

Verktyget vi använde var en evolutionär simulering, där enkla mjukvarurobotar i en befolkning interagerar, spelar det välkända spelet Prisoner's Dilemma. I grund och botten, en fånge som förråder en annan vinner stort, medan den förrådda förlorar dåligt, medan båda bara vinner blygsamt om de samarbetar, och lida lika mycket om de förråder varandra.

Till skillnad från tidigare arbete inom detta område, vi gjorde några av dessa mjukvarurobotar lite slingrande, genom att lägga till kod som gjorde att de kunde lura varandra. Offret för ett sådant bedrägeri görs förvirrad över motståndarens avsikt, eller övertygad om att motståndarspelaren är en osjälviskt samarbetsvillig "bra kille".

Vår kod använde vårt arbete med informationsteoretisk modellering av bedrägerier, tillåta kända bedrägerier att kartläggas i spelteoretiska modeller. Varje bedragare i simuleringen ådrog sig en kostnad när de lurade, som sedan subtraherades från utdelningen de tjänade i fångens dilemmaspel.

Hur mycket falska nyheter för att störa konsensus?

Vi fann att även en mycket liten andel av vilseledande spelare i befolkningen – i våra simuleringar mindre än 1 % – kunde katastrofalt störa samarbetsbeteenden i den simulerade befolkningen.

I det extrema fallet med kostnadsfria bedrägerier – där falska nyhetsproducenter är obehindrade – försvann samarbetsbeteenden helt och hållet. Endast där kostnaden för bedrägerier var större än noll, överlevde samarbetet. Där kostnaderna var mycket höga, samarbetet verkligen frodas.

Vi fann också att för alla simuleringar, förmågan att lura spelare att överleva berodde mycket starkt på kostnaderna för bedrägerier. Om kostnaden var tillräckligt hög, bedragare kunde inte överleva i befolkningen.

Att tillämpa detta på spridning av falska nyheter, mycket höga kostnader kommer att leda till att den försvinner.

Från experiment till verkligheten

Vad säger dessa experimentella resultat oss om den verkliga världen av falska nyheter i sociala medier och massmedia?

Det första och utan tvekan viktigare resultatet är att väldigt lite falska nyheter krävs för att skapa kaos i en befolkning, och förhindra konsensusbildning som är avgörande för offentliga debatter. Oavsett om offren är förvirrade, eller tro på lögner, är oväsentligt. Det är deras förmåga att nå konsensus som störs.

Vår modellering fokuserade på små grupper av influencers som aktivt debatterar frågor. Där influencers inte kan komma överens, anhängare i sin tur kan inte anpassa sig till en konsensus. Detta är en av anledningarna till att falska nyheter är så destruktiva för demokratiska samhällen.

Det andra resultatet av ett bredare intresse är att en hög kostnad för produktionen, men särskilt distributionen av falska nyheter kan visa sig vara det mest effektiva verktyget vi har för att besegra spridningen. En hög samhällsinvestering för att höja dessa kostnader lönar sig, eftersom effekterna av falska nyheter är så störande.

Bryter kedjan

Informationskrigföringsforskning för över ett decennium sedan fann att proxyleverans var en stor multiplikator i distributionen av giftig propaganda.

Till exempel, massmedia som distribuerade våldsamma bilder och filmer producerade av terrorister fungerade som ombud för terroristerna som producerade propagandan, vare sig de visste det eller inte.

Användare av sociala medier som delar falska nyheter agerar också som ombud för producenter av falska nyheter. Sådana användare kastas vanligtvis ut som offer för falska nyheter – vilket de vanligtvis är – men varje gång de delar med sig av falska nyheter blir de deltagare i falska nyhetsproducentens bedrägeri.

Att lägga en kostnad på distributionen av falska nyheter i sociala medier är inte okomplicerat. Den informella utflykten av vanliga affischer med falska nyheter är ett alternativ, som överensstämmer med den evolutionära psykologin för upptäckt av fuskare.

Sociala medieorganisationer som Facebook säger att de försöker vara mer proaktiva när det gäller att upptäcka falska nyheter och falska nyheter antingen genom maskininlärningsteknik eller faktagranskare från tredje part, och säger att det har haft några framgångar på senare tid.

Men båda dessa idéer stöter på det svårare problemet att avgöra exakt vad som är eller inte är falska nyheter. Osmakliga fakta stämplas alltför ofta som "falska nyheter".

Faktagranskarens tillförlitlighet och objektivitet kan variera kraftigt – grundsanningar döljs ofta av partiskhet, och begränsningar i förståelsen.

Just nu, i motsats till påståenden från vissa leverantörer av sociala medier, AI klarar inte uppgiften att hitta och rensa bort falska nyheter, vilket lägger tillbaka ansvaret på oss människor.

Vi kan alla hjälpa till helt enkelt genom att tänka lite innan vi gillar, dela eller retweeta all information på sociala medier. Kanske gör några sökkontroller för att se om informationen är känd för att vara sann eller falsk.

Skadedjursbekämpning är en etablerad praxis i biologiska ekosystem, och är helt klart försenad för informationsekosystemet.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.