Här är en snabb frågesport för dig:

I den bibliska berättelsen, vad svaldes Jona av? Hur många djur av varje slag tog Mose på arken?

Svarade du "val" på den första frågan och "två" på den andra? De flesta människor gör … även om de är väl medvetna om att det var Noah, inte Moses som byggde arken i den bibliska berättelsen.

Psykologer som jag kallar detta fenomen för Moses-illusionen. Det är bara ett exempel på hur människor är väldigt dåliga på att ta reda på faktafel i omvärlden. Även när folk känner till den korrekta informationen, de misslyckas ofta med att upptäcka fel och kommer till och med att fortsätta att använda den felaktiga informationen i andra situationer.

Forskning från kognitiv psykologi visar att människor naturligt är dåliga faktagranskare och det är väldigt svårt för oss att jämföra saker vi läser eller hör med vad vi redan vet om ett ämne. I vad som har kallats en era av "falska nyheter, "denna verklighet har viktiga konsekvenser för hur människor konsumerar journalistik, sociala medier och annan offentlig information.

Att inte lägga märke till det man vet är fel

Moses-illusionen har studerats upprepade gånger sedan 1980-talet. Det förekommer med en mängd olika frågor och nyckelresultatet är att – även om människor känner till den korrekta informationen – de inte märker felet och fortsätter att svara på frågan.

I den ursprungliga studien, 80 procent av deltagarna märkte inte felet i frågan trots att de senare svarat korrekt på frågan "Vem var det som tog djuren på Arken?" Detta misslyckande inträffade trots att deltagarna varnades för att några av frågorna skulle ha något fel på sig och fick ett exempel på en felaktig fråga.

Moses-illusionen visar vad psykologer kallar kunskapsförsummelse – människor har relevant kunskap, men de misslyckas med att använda den.

Ett sätt som jag och mina kollegor har studerat denna kunskapsförsummelse är att låta folk läsa fiktiva berättelser som innehåller sann och falsk information om världen. Till exempel, en berättelse handlar om en karaktärs sommarjobb på ett planetarium. Vissa uppgifter i berättelsen är korrekta:"Lyckliga mig, Jag var tvungen att ha på mig en stor gammal rymddräkt. Jag vet inte om jag skulle vara någon specifik – jag kanske skulle vara Neil Armstrong, den första människan på månen." Övrig information är felaktig:"Först var jag tvungen att gå igenom alla vanliga astronomiska fakta, börjar med hur vårt solsystem fungerar, att Saturnus är den största planeten, etc."

Senare, vi ger deltagarna ett triviatest med några nya frågor (Vilken ädelsten är röd?) och några frågor som relaterar till informationen från berättelsen (Vilken är den största planeten i solsystemet?). Vi finner tillförlitligt positiva effekter av att läsa den korrekta informationen i berättelsen – deltagarna är mer benägna att svara "Vem var den första personen som trampade sin fot på månen?" korrekt. Vi ser också negativa effekter av att läsa desinformationen – deltagare är både mindre benägna att komma ihåg att Jupiter är den största planeten och de är mer benägna att svara med Saturnus.

Dessa negativa effekter av att läsa falsk information uppstår även när den felaktiga informationen direkt motsäger människors förkunskaper. I en studie, mina kollegor och jag lät folk göra ett triviatest två veckor innan de läste berättelserna. Således, vi visste vilken information varje person gjorde och inte visste. Deltagarna lärde sig fortfarande falsk information från berättelserna som de senare läste. Faktiskt, de var lika benägna att plocka upp falsk information från berättelserna när den gjorde det och stred inte mot deras förkunskaper.

Kan du bli bättre på att upptäcka felaktig information?

Så människor misslyckas ofta med att lägga märke till fel i det de läser och kommer att använda dessa fel i senare situationer. Men vad kan vi göra för att förhindra denna påverkan av desinformation?

Expertis eller större kunskap verkar hjälpa, men det löser inte problemet. Även doktorander i biologi kommer att försöka svara på förvrängda frågor som "Vatten innehåller två heliumatomer och hur många syreatomer?" – även om de är mindre benägna att svara på dem än studerande i historia. (Mönstret är omvänt för historierelaterade frågor.)

Många av de ingripanden som mina kollegor och jag har genomfört för att försöka minska människors beroende av felaktig information har misslyckats eller till och med slagit tillbaka. En första tanke var att deltagarna skulle vara mer benägna att märka felen om de hade mer tid att bearbeta informationen. Så, vi presenterade berättelserna i ett bok-på-band-format och saktade ner presentationshastigheten. Men istället för att använda den extra tiden för att upptäcka och undvika felen, deltagare var ännu mer benägna att producera felaktig information från berättelserna på ett senare triviatest.

Nästa, vi försökte markera den kritiska informationen i ett rött teckensnitt. Vi sa åt läsarna att vara särskilt uppmärksamma på den information som presenteras i rött med förhoppningen att en särskild uppmärksamhet åt den felaktiga informationen skulle hjälpa dem att uppmärksamma och undvika felen. Istället, de ägnade extra uppmärksamhet åt felen och var därför mer benägna att upprepa dem vid det senare testet.

Det enda som verkar hjälpa är att agera som en professionell faktagranskare. När deltagarna uppmanas att redigera berättelsen och markera eventuella felaktiga påståenden, de är mindre benägna att lära sig felaktig information från berättelsen. Liknande resultat uppstår när deltagarna läser berättelserna mening för mening och avgör om varje mening innehåller ett fel.

Det är viktigt att notera att även dessa "faktakontrollerande" läsare missar många av felen och fortfarande lär sig falsk information från berättelserna. Till exempel, i uppgiften att upptäcka mening för mening fick deltagarna cirka 30 procent av felen. Men givet sina förkunskaper borde de ha kunnat upptäcka minst 70 procent. Så den här typen av noggrann läsning hjälper, men läsarna missar fortfarande många fel och kommer att använda dem vid ett senare test.

Psykologins egenheter får oss att missa misstag

Varför är människor så dåliga på att lägga märke till fel och desinformation? Psykologer tror att det finns minst två krafter som verkar.

Först, människor har en allmän fördom att tro att saker och ting är sanna. (Trots allt, det mesta vi läser eller hör är sant.) Faktum är att det finns några bevis för att vi initialt behandlar alla påståenden som sanna och att det sedan krävs kognitiv ansträngning för att mentalt markera dem som falska.

Andra, människor tenderar att acceptera information så länge den är tillräckligt nära den korrekta informationen. Naturligt tal innehåller ofta fel, pausar och upprepar. ("Hon var klädd i en blå - um, Jag menar, en svart, en svart klänning.") En idé är att för att upprätthålla konversationer måste vi följa flödet – acceptera information som är "tillräckligt bra" och bara gå vidare.

Och folk faller inte för dessa illusioner när den felaktiga informationen uppenbarligen är felaktig. Till exempel, människor försöker inte svara på frågan "Hur många djur av varje slag tog Nixon på arken?" och folk tror inte att Pluto är den största planeten efter att ha läst den i en fiktiv berättelse.

Att upptäcka och korrigera falsk information är svårt arbete och kräver att man kämpar mot hur våra hjärnor gillar att bearbeta information. Enbart kritiskt tänkande kommer inte att rädda oss. Våra psykologiska egenheter gör att vi riskerar att falla för desinformation, desinformation och propaganda. Professionella faktagranskare tillhandahåller en viktig tjänst för att leta fram felaktig information i allmänhetens syn. Som sådan, de är ett av våra bästa hopp för att nollställa fel och rätta till dem, innan vi andra läser eller hör den falska informationen och införlivar den i det vi vet om världen.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.