Ingenjörsforskare i Dartmouth har utvecklat ett nytt tillvägagångssätt för att upptäcka en talares avsikt att vilseleda. Tillvägagångssättets ram, som skulle kunna utvecklas för att extrahera åsikter från "falska nyheter, "bland annat användningsområde, publicerades nyligen som en del av en tidning i Journal of Experimental &Theoretical Artificial Intelligence.

Även om tidigare studier har undersökt bedrägeri, detta är möjligen den första studien som tittar på en talares avsikt. Forskarna hävdar att även om en sann berättelse kan manipuleras till olika vilseledande former, meningen, snarare än innehållet i kommunikationen, avgör om kommunikationen är vilseledande eller inte. Till exempel, talaren kan vara felaktigt informerad eller göra ett felaktigt antagande, vilket betyder att talaren gjorde ett oavsiktligt fel men försökte inte lura.

"Bedräglig avsikt att vilseleda lyssnare medvetet utgör ett mycket större hot än oavsiktliga misstag, sa Eugene Santos Jr. medförfattare och professor i teknik vid Thayer School of Engineering i Dartmouth. "Som vi förstår det, vår algoritm är den enda metoden som upptäcker bedrägeri och samtidigt diskriminerar illvilliga handlingar från godartade handlingar."

Forskarna utvecklade ett unikt tillvägagångssätt och resulterande algoritm som kan skilja bedrägeri från all godartad kommunikation genom att hämta de universella egenskaperna hos vilseledande resonemang. Dock, ramverket är för närvarande begränsat av mängden data som behövs för att mäta en talares avvikelse från tidigare argument; studien använde data från en undersökning från 2009 med 100 deltagare om deras åsikter om kontroversiella ämnen, samt en datauppsättning från 2011 med 800 riktiga och 400 fiktiva recensioner av samma 20 hotell.

Santos tror att ramverket skulle kunna utvecklas ytterligare för att hjälpa läsare att särskilja och noggrant undersöka avsikten med "falska nyheter, "låta läsaren att avgöra om en rimlig, logiska argument används eller om åsikten spelar en stark roll. I vidare studier, Santos hoppas kunna undersöka ringverkan av desinformation, inklusive dess effekter.

I studien, forskarna använder den populära filmen Ocean's Eleven från 2001 för att illustrera hur ramverket kan användas för att undersöka en bedragares argument, som i verkligheten kan gå emot hans sanna övertygelse, resulterar i en förfalskad slutförväntning. Till exempel, i filmen, en grupp tjuvar bryter sig in i ett bankvalv samtidigt som de avslöjar för ägaren att han blir rånad för att kunna förhandla. Tjuvarna förser ägaren med falsk information, nämligen att de bara tar hälften av pengarna om ägaren inte ringer polisen. Dock, tjuvarna förväntar sig att ägaren ska ringa polisen, vilket han gör, så tjuvarna maskerar sig sedan som poliser för att stjäla hela valvets innehåll.

Eftersom Ocean's Eleven är en manusfilm, tittarna kan vara säkra på tjuvarnas avsikt – att stjäla alla pengar – och hur det strider mot vad de säger till ägaren – att de bara tar hälften. Detta illustrerar hur tjuvarna kunde lura ägaren och förutse hans agerande på grund av att tjuvarna och ägaren hade olika information och därför uppfattade platsen olika.

"Folk förväntar sig att saker ska fungera på ett visst sätt, sa Santos, "precis som tjuvarna visste att ägaren skulle ringa polisen när han fick reda på att han blev rånad. Så, i detta scenario, tjuvarna använde den kunskapen för att övertyga ägaren att komma till en viss slutsats och följa förväntningarnas standardväg. De tvingade fram sitt bedrägeriuppsåt så att ägaren skulle nå de slutsatser som tjuvarna önskade."

I populärkulturen, verbala och icke-verbala beteenden som ansiktsuttryck används ofta för att avgöra om någon ljuger, men medförfattarna noterar att dessa signaler inte alltid är tillförlitliga.

"Vi har funnit att modeller baserade på resonemangsavsikt är mer tillförlitliga än verbala förändringar och personliga skillnader, och därmed är bättre på att skilja avsiktliga lögner från andra typer av informationsförvrängning, " sa medförfattaren Deqing Li, som arbetade på uppsatsen som en del av sin doktorsexamen. avhandling vid Thayer.