Sociala medier kan utsätta användare för felaktig information, inklusive falska nyheter – nyheter med avsiktligt falsk information. Faktiskt, under presidentvalet i USA 2016, falska nyheter engagerade fler människor än riktiga nyheter, enligt en BuzzFeed News-analys.

Det finns för närvarande många metoder för djupinlärning för att upptäcka falska nyheter, men dessa metoder kan inte förklara varför det är känt som sådant. Nu, ett team av forskare från Penn State och Arizona State arbetar för att förklara varför falska nyheter upptäcks vara falska.

Teamets senaste resultat ska presenteras på Association for Computing Machinery (ACM)'s Knowledge Discovery and Data Mining (KDD), en flaggskeppskonferens för datautvinning, hölls 4-8 augusti i Anchorage, Alaska.

"Detektion är en sak, men hur man presenterar det för användaren för att förklara varför det är falskt är mer utmanande, sa Dongwon Lee, docent vid Penn State College of Information Sciences and Technology och forskare i projektet. "Om vi ​​inte ger en bra förklaring, det har en begränsad effekt att begränsa spridningen av desinformation eftersom folk inte accepterar det."

I sin studie, forskarna byggde ett förklarligt ramverk för upptäckt av falska nyheter, som de kallar deFEND (Explainable FakE News Detection). Ramverket består av tre komponenter:(1) en kodare för nyhetsinnehåll, att upptäcka opinionsbildande och sensationella språkstilar som vanligtvis finns i falska nyheter; (2) en användarkommentarkodare, att upptäcka aktiviteter som skeptiska åsikter och sensationella reaktioner i kommentarer på nyheter; och (3) en meningskommentar, samuppmärksamhetskomponent, som upptäcker meningar i nyhetsartiklar och användarkommentarer som kan förklara varför en nyhet är falsk.

Den nya upptäcktsalgoritmen som designats och utvecklats i detta nya tillvägagångssätt har överträffat sju andra toppmoderna metoder för att upptäcka falska nyheter, enligt forskarna.

"Bland användarnas kommentarer, vi kan peka ut den mest effektiva förklaringen till varför den här [nyheten de läser] är falska nyheter, " förklarade Lee. "Vissa användare uttryckte missnöje men andra ger särskilda bevis, som att länka till en faktagranskande webbplats eller till en autentisk nyhetsartikel. Dessa tekniker kan samtidigt hitta sådana bevis och presentera dem för användaren som en potentiell förklaring."

Han lade till, "Demokratin [i USA] som vi känner den bygger på förutsättningen att fritt dela sina idéer och åsikter. Om vi ​​inte kan lita på det som har sagts i media, och börja misstänka att det kan vara falskt, det kan undergräva ett helt ekosystem av demokrati. Som sådan, denna forskning gör en viktig och enorm samhällspåverkan."

Forskarna arbetar på en prototyp av systemet, som de hoppas kunna dela i slutet av 2019, så att andra kan använda verktyget för att upptäcka falska nyheter och bättre förstå dem.

"Tidig upptäckt av falska nyheter är en annan viktig fråga, sa Suhang Wang, biträdande professor vid College of IST och samarbetspartner i projektet. "När [falska] nyheter kommer ut, inom några timmar, vi vill upptäcka det. När falska nyheter sprids, skadan är redan skedd. Det är viktigt att upptäcka och begränsa det så snart som möjligt."