Sociala medier utgör en viktig kanal för spridning av falska nyheter och desinformation. Denna situation har förvärrats med de senaste framstegen inom foto- och videoredigering och verktyg för artificiell intelligens, som gör det lätt att manipulera audiovisuella filer, till exempel med så kallade deepfakes, som kombinerar och överlagrar bilder, ljud- och videoklipp för att skapa montage som ser ut som riktiga filmer.

Forskare från grupperna K-riptography and Information Security for Open Networks (KISON) och Communication Networks &Social Change (CNSC) vid Internet Interdisciplinary Institute (IN3) vid Universitat Oberta de Catalunya (UOC) har lanserat ett nytt projekt för att utveckla innovativ teknik som, med hjälp av artificiell intelligens och tekniker för döljande av data, ska hjälpa användare att automatiskt skilja mellan original och förfalskat multimediainnehåll, och därmed bidra till att minimera repostering av falska nyheter. DISSIMILAR är ett internationellt initiativ som leds av UOC inklusive forskare från Warszawas tekniska universitet (Polen) och Okayama University (Japan).

"Projektet har två mål:för det första att förse innehållsskapare med verktyg för att vattenmärka sina skapelser, och på så sätt göra alla ändringar lätt upptäckbara; och för det andra att erbjuda användare av sociala medier verktyg baserade på senaste generationens signalbehandling och maskininlärningsmetoder för att upptäcka falska digitalt innehåll", förklarade professor David Megías, KISONs ledande forskare och chef för IN3. Dessutom syftar DISSIMILAR till att inkludera "den kulturella dimensionen och slutanvändarens synvinkel genom hela projektet," från utformningen av verktygen till studiet av användbarhet i de olika stadierna.

Risken för partiskhet

För närvarande finns det i princip två typer av verktyg för att upptäcka falska nyheter. För det första finns det automatiska sådana baserade på maskininlärning, av vilka (för närvarande) endast ett fåtal prototyper finns. Och för det andra finns det plattformar för upptäckt av falska nyheter med mänskligt engagemang, som är fallet med Facebook och Twitter, som kräver att människor deltar för att fastställa om specifikt innehåll är äkta eller falskt. Enligt David Megías kan denna centraliserade lösning påverkas av "olika fördomar" och uppmuntra censur. "Vi tror att en objektiv bedömning baserad på tekniska verktyg kan vara ett bättre alternativ, förutsatt att användarna har sista ordet när det gäller att avgöra, på grundval av en förutvärdering, om de kan lita på visst innehåll eller inte", förklarade han.

För Megías finns det ingen "single silver bullet" som kan upptäcka falska nyheter:snarare måste upptäckten utföras med en kombination av olika verktyg. "Det är därför vi har valt att utforska döljandet av information (vattenstämplar), tekniker för kriminalteknisk analys av digitalt innehåll (till stor del baserad på signalbehandling) och, det säger sig självt, maskininlärning", noterade han.

Automatiskt verifiera multimediafiler

Digital vattenmärkning omfattar en rad tekniker inom området datadöljande som bäddar in omärklig information i originalfilen för att "enkelt och automatiskt" kunna verifiera en multimediafil. "Det kan användas för att indikera ett innehålls legitimitet genom att till exempel bekräfta att en video eller ett foto har distribuerats av en officiell nyhetsbyrå, och kan också användas som ett autentiseringsmärke, vilket skulle raderas vid ändring av innehållet, eller för att spåra informationens ursprung. Med andra ord kan den avgöra om källan till informationen (t.ex. ett Twitter-konto) sprider falskt innehåll", förklarade Megías.

Forensisk analysteknik för digitalt innehåll

Projektet kommer att kombinera utvecklingen av vattenstämplar med tillämpningen av kriminalteknisk analys av digitalt innehåll. Målet är att utnyttja signalbehandlingsteknik för att upptäcka de inneboende distorsionerna som produceras av enheterna och programmen som används när man skapar eller modifierar audiovisuella filer. Dessa processer ger upphov till en rad förändringar, såsom sensorbrus eller optisk distorsion, som kan detekteras med hjälp av maskininlärningsmodeller. "Tanken är att kombinationen av alla dessa verktyg förbättrar resultaten jämfört med användningen av enstaka lösningar", sa Megías.

Studier med användare i Katalonien, Polen och Japan

En av de viktigaste egenskaperna hos DISSIMILAR är dess "holistiska" tillvägagångssätt och dess insamling av "uppfattningar och kulturella komponenter kring falska nyheter." Med detta i åtanke kommer olika användarfokuserade studier att genomföras, uppdelade i olika steg. "För det första vill vi ta reda på hur användare interagerar med nyheterna, vad som intresserar dem, vilka medier de konsumerar, beroende på deras intressen, vad de använder som grund för att identifiera visst innehåll som falska nyheter och vad de är beredda att göra för att kontrollera sanningshalten. Om vi ​​kan identifiera dessa saker kommer det att göra det lättare för de tekniska verktyg vi designar för att förhindra spridning av falska nyheter", förklarade Megías.

Dessa uppfattningar kommer att mätas på olika platser och i kulturella sammanhang, i användargruppsstudier i Katalonien, Polen och Japan, för att integrera deras egenheter när lösningarna utformas. "Detta är viktigt eftersom till exempel varje land har regeringar och/eller offentliga myndigheter med större eller mindre grad av trovärdighet. Detta har en inverkan på hur nyheter följs och stöd för falska nyheter:om jag inte tror på ordet av myndigheterna, varför skulle jag vara uppmärksam på nyheterna från dessa källor? Detta kunde ses under covid-19-krisen:i länder där det fanns mindre förtroende för de offentliga myndigheterna, var det mindre respekt för förslag och regler om hanteringen av pandemin och vaccination", säger Andrea Rosales, en CNSC-forskare.

En produkt som är lätt att använda och förstå

I steg två kommer användarna att delta i utformningen av verktyget för att "se till att produkten blir väl mottagen, lätt att använda och förståelig", sa Andrea Rosales. "Vi vill att de ska vara involverade med oss ​​genom hela processen tills den slutliga prototypen är producerad, eftersom detta kommer att hjälpa oss att ge ett bättre svar på deras behov och prioriteringar och göra vad andra lösningar inte har kunnat," lade till David Megías.

Denna användaracceptans kan i framtiden vara en faktor som leder till att sociala nätverksplattformar inkluderar de lösningar som utvecklats i detta projekt. "Om våra experiment bär frukt skulle det vara bra om de integrerade dessa teknologier. Tills vidare skulle vi vara nöjda med en fungerande prototyp och ett proof of concept som kan uppmuntra sociala medieplattformar att inkludera dessa teknologier i framtiden, " avslutade David Megías.

Tidigare forskning publicerades i Special Issue on the ARES-Workshops 2021 .