Falska nyheter har redan väckt misstroendets lågor mot media, politik och etablerade institutioner runt om i världen. Och medan ny teknik som artificiell intelligens (AI) kan göra saker ännu värre, den kan också användas för att bekämpa desinformation.

Vill du få dig själv att låta som Obama? Förr, som kan ha krävt att fysiskt imitera hans röst, party-trick stil. Och även om du var väldigt bra på det, det skulle nästan säkert inte utgöra någon fara för vår demokrati. Men tekniken har förändrat det. Du kan nu enkelt och exakt få vem som helst att säga vad som helst genom AI. Använd bara tjänsten i ett onlineprogram för att spela in en mening och lyssna på vad du sa med en känd persons röst.

Program som detta kallas ofta för djupa förfalskningar – AI-system som anpassar ljud, bilder och videor för att få människor att säga och göra saker de aldrig gjort.

Dessa tekniker kan starta en ny era av falska nyheter och desinformation online. Under 2017, Hany Farid, en datavetare vid Dartmouth College, USA, vem som upptäcker falska videor sa att den snabba spridningen av nya manipulationstekniker har lett till en "kapprustning." Föreställ dig bara hur val kommer att se ut när vi inte längre kan lita på video och ljud. Men vissa forskare slår nu tillbaka och visar att AI också kan användas för gott.

"AI har många etiska problem, sa Francesco Nucci, applikationsforskningschef på Engineering Group, baserat i Italien. "Men ibland kan det också vara lösningen. Man kan använda AI på oetiska sätt för att till exempel göra och sprida falska nyheter, men du kan också använda den för att göra gott, till exempel, för att bekämpa desinformation."

Faktagranskare

Han är huvudforskaren i Fandango-projektet, som syftar till att göra just det. Teamet bygger mjukvaruverktyg för att hjälpa journalister och faktagranskare att upptäcka och bekämpa falska nyheter, säger Nucci. De hoppas kunna betjäna journalister på tre sätt.

Den första komponenten är vad Nucci kallar innehållsoberoende detektering genom att använda verktyg som riktar in sig på innehållets form.

Nucci förklarar att idag, bilder och video kan enkelt manipuleras, antingen genom enkel Photoshop eller mer komplexa tekniker som djupa förfalskningar. Fandangos system kan omvända dessa förändringar, och använda algoritmer för att hjälpa journalister att upptäcka manipulerat innehåll.

När dessa verktyg tittar på form, de kontrollerar inte om innehållet i sig gör falska påståenden, vilket är vad Fandangos andra forskningslinje gör. Här länkar de historier som har bevisats vara falska av mänskliga faktagranskare, och leta efter onlinesidor eller inlägg på sociala medier med liknande ord och påståenden.

"Verktygen kan upptäcka vilka falska nyheter som har samma rot och tillåta journalister att undersöka dem, sa Nucci.

Båda dessa komponenter är starkt beroende av olika AI-algoritmer, som bearbetning av naturligt språk. Den tredje komponenten låter journalister svara på falska nyheter.

En falsk historia kan till exempel, göra påståendet att en mycket hög andel av brotten i ett europeiskt land begås av utländska invandrare. I teorin kan det vara ett lätt påstående att motbevisa på grund av stora mängder tillgängliga öppna data, ändå slösar journalister bort värdefull tid på att hitta dessa uppgifter.

Så Fandangos verktyg länkar samman alla typer av europeiska öppna datakällor, och buntar ihop och visualiserar det. Journalister kan använda, till exempel, slagit samman nationella data för att ta itu med påståenden om brott eller tillämpa data från de europeiska Copernicus-satelliterna i klimatförändringsdebatter.

"På detta sätt kan journalister snabbt svara på falska historier och inte slösa bort någon tid, sa Nucci.

Deras verktyg testas för närvarande av det belgiska public service-företaget VRT, ANSA, den främsta italienska nyhetsbyrån, och CIVIO, en spansk ideell organisation.

Fake news upptäckt

Men att upptäcka falska nyheter kanske inte bara är en fråga om att hitta osanna påståenden, men också av att analysera enorma mängder delningsmönster för sociala medier, säger Michael Bronstein, professor vid University of Lugano i Schweiz och vid Imperial College London, Storbrittanien.

Han leder ett projekt som heter GoodNews, som använder AI för att ta ett atypiskt tillvägagångssätt för upptäckt av falska nyheter.

"De flesta befintliga metoder tittar på innehållet, ", sa prof. Bronstein. "De analyserar semantiska egenskaper som är karakteristiska för falska nyheter. Som fungerar till en viss grad, men stöter på alla möjliga problem.

"Det finns, till exempel, språkbarriärer, plattformar som WhatsApp ger dig inte tillgång till innehållet eftersom det är krypterat och i många fall kan falska nyheter vara en bild, som är svårare att analysera med tekniker som naturlig språkbehandling."

Så Prof. Bronstein och hans team vände den här modellen på huvudet, tittar istället på hur falska nyheter sprids.

Väsentligen, tidigare studier visar att falska nyheter delas online på olika sätt än riktiga nyheter, säger prof. Bronstein. Fake news kan ha mycket fler delningar än likes på Facebook, medan vanliga inlägg tenderar att ha fler likes än de har delningar. Genom att upptäcka mönster som dessa, GoodNews fäster ett trovärdighetspoäng till en nyhet.

Teamet har byggt sin första prototyp, som använder grafbaserad maskininlärning, en AI-teknik där Prof. Bronstein är expert. Prototypen är tränad på data från Twitter där forskarna spårar berättelser som faktagranskats av journalister och visat sig vara falska. Journalister tränar på detta sätt AI-algoritmen genom att visa vilka historier som är falska, och vilka inte är det.

GoodNews-teamet hoppas kunna tjäna pengar på denna tjänst genom en start-up som heter Fabula AI, baserat i London. Samtidigt som de hoppas kunna lansera produkten i slutet av året, de tänker sig ha kunder som stora medieföretag som Facebook och Twitter, men också enskilda användare.

"Vår större vision är att vi vill bli ett trovärdighetsvärderingshus för nyheter, på samma sätt som vissa företag betygsätter en persons konsumentkreditvärde, " sa prof. Bronstein.

Lösa

Naturligtvis lämnar det en större fråga - kan tekniken verkligen lösa falska nyheter? Båda forskarna är skeptiska, men övertygad teknik kan hjälpa. Nucci betonar att begreppet falska nyheter är omtvistat, och att berättelser ofta inte är helt sanna, men inte heller helt falskt.

"Fake news är inte en matematisk fråga om algoritmer och data, " sa han. "Men en mycket filosofisk fråga om hur vi hanterar sanningen. Ändå kan vår teknik hjälpa till att förbättra transparensen kring falska påståenden och felaktig information."

Prof. Bronstein säger att det skulle vara naivt att förvänta sig att teknik löser problemet med falska nyheter.

"Det handlar inte bara om att upptäcka falska nyheter. Det är också ett problem med förtroende och brist på kritiskt tänkande. Människor tappar förtroendet för traditionella medier och institutioner, och det är inte något som bara kan mildras genom teknik, " han sa.

"Det kräver insatser från alla intressenter, och förhoppningsvis kan vårt projekt spela en roll i denna större ansträngning."