För mer än ett decennium sedan, Internetanalytiker och nya medieforskaren Clay Shirky sa:"Det enda riktiga sättet att stoppa skräppost är att stänga av e-postkommunikation." Kommer det att stänga av Internet det enda sättet att stoppa propaganda för förfalskning 2020?

I dag, vem som helst kan skapa sina egna falska nyheter och också bryta den. Propaganda på nätet är mer vilseledande och manipulerande än någonsin.

Deepfakes, en specifik form av desinformation som använder algoritmer för maskininlärning för att skapa ljud och video av riktiga människor som säger och gör saker de aldrig sagt eller gjort, går snabbt mot att vara oskiljbara från verkligheten.

Upptäcka desinformation som drivs av oetisk användning av digitala medier, big data och artificiell intelligens, och deras spridning via sociala medier, är av yttersta vikt.

Länder måste utbilda och utrusta sina medborgare. Lärare står också inför verkliga utmaningar när det gäller att hjälpa ungdomar att utveckla örnögon för djupa förfalskningar. Om unga människor saknar förtroende för att hitta och utvärdera tillförlitlig offentlig information, deras motivation för att delta i eller förlita sig på våra demokratiska strukturer kommer att bli allt mer utsatt.

Undergräver demokratin

Det är nu möjligt att skapa en video av en person som talar och gör vanliga uttryck från bara några eller till och med en enda bild av den här personens ansikte. Ansiktsbytesappar som FaceApp och läppsynkroniseringsappar som Dubsmash är exempel på tillgängliga användarvänliga grundläggande deepfake-verktyg som människor kan använda utan någon programmerings- eller kodningsbakgrund.

Även om användningen av denna teknik kan locka eller bedöva tittarna för dess expertbilder i underhållnings- och spelindustrin, deepfakes onda ansikte är ett allvarligt hot mot både människors säkerhet och demokrati.

Deepfakes potential att användas som vapen ökar alarmerande och många skador kan förutses utifrån människors förmåga att skapa tydligt innehåll utan andras samtycke.

Det förväntas att människor kommer att använda deepfakes för att cyberbully, förstöra rykte, utpressning, sprida hatprat, uppmuntra till våld, störa demokratiska processer, sprida desinformation till riktad publik och begå cyberbrott och bedrägerier.

Deepfake -upptäckt

Nyckelspelare har vågat sig på att hitta ett svar på hotfakehot.

Facebook tillkännagav den 6 januari att det "kommer att stärka sin policy mot vilseledande manipulerade videor som har identifierats som djupt felaktiga." Företaget säger att det kommer att ta bort manipulerade medier som har "redigerats eller syntetiserats - utöver justeringar för tydlighet eller kvalitet - på sätt som inte är uppenbara för en genomsnittlig person" och om media är "en produkt av artificiell intelligens eller maskininlärning som går samman , ersätter eller överlagrar innehåll på en video, att få det att verka äkta. "

Nyheten följer Facebooks "deepfake -utmaning, "som syftar till att designa nya verktyg som upptäcker manipulerat medieinnehåll. Utmaningen stöds av Microsoft, ett konsortium om artificiell intelligens och en fond på 10 miljoner dollar.

I slutet av oktober, Facebooks VD Mark Zuckerberg vittnade vid ett amerikanska representanthusets Financial Services Committee -utfrågning i Washington om företagets kryptovaluta -planer, där Zuckerberg ställs inför frågor om vad företaget gör för att förhindra djupfel.

Defense Advanced Research Projects Agency (DARPA) från U.S.A.s försvarsdepartement arbetar med att använda specifika typer av algoritmer för att bedöma integriteten hos digitala visuella medier.

Vissa forskare diskuterar användningen av konvolutionella neurala nätverk - en uppsättning algoritmer som löst replikerar den mänskliga hjärnan, utformad för att analysera visuella bilder och känna igen mönster - för att upptäcka inkonsekvenser över flera ramar i deepfakes. Andra föreslår algoritmer för att upptäcka helt genererade ansikten.

Hani Farid, en expert på digital kriminalteknik och en av de ledande myndigheterna för att upptäcka falska foton, och hans student Shruti Agarwal vid University of California, Berkeley utvecklar en programvara som använder de subtila egenskaperna hos hur en person talar för att skilja denna person från den falska versionen.

Farid samarbetar också mycket nära med deepfake-pionjären Hao Li för att möta problemet med "alltmer sömlöst bedrägeri på hyllan".

YouTube nation

Tänk om vi vaknar imorgon till en djupfake av Greta Thunberg, Tid Årets person 2019 anklaga en specifik organisation för att vara den viktigaste katalysatorn för klimatförändringar? Skulle någon ungdom vara skeptisk till informationen?

Vi lever i en digital era när många människor förväntar sig att varje svar kommer att hittas genom en Google -sökning, en YouTube- eller en Vimeo -video eller ett TED -samtal. Nästan 100 procent av kanadensiska ungdomar mellan 15 och 24 år använder internet dagligen. De flesta följer nyheter och aktualitet via sociala medier som Facebook, Twitter och Instagram.

År 2017, 90 procent av kanadensarna i åldern 18 till 24 år var aktiva YouTube -användare.

Enligt Statista, ett företag som tillhandahåller marknads- och konsumentdata, "från maj 2019, mer än 500 timmars video laddades upp till YouTube varje minut, "motsvarar" cirka 30, 000 timmar nyuppladdat innehåll per timme. "Företaget rapporterar att mellan 2014 och 2019" ökade antalet videoinnehållstimmar var 60:e sekund med cirka 40 procent. "

Många av dagens 18- till 24-åriga sociala medieanvändare känner igen agendorna och algoritmerna bakom inläggen som dyker upp på deras väggar. I min doktorsexamen avhandling, Jag undersökte hur 42 deltagare i denna åldersgrupp förstod flyktingar i ett sammanhang där idéer om flyktingar var djupt påverkade av sociala medier propaganda, falska nyheter och desinformation. Jag upptäckte att många längtade efter att bli influencers och störa offentliga kommentarer och mediegenererade meddelanden på sätt som resonerar med förespråkare eller aktivistiska kampanjer idag som leds av ungdomar.

Deepfake -fenomenet är en ny kritisk utmaning de, och alla deltagare i våra demokratier, nu ansikte.

Utbildning för motståndskraft

I Kanada, Journalister för mänskliga rättigheter tillkännagav ett nytt program, finansierad av Heritage Canada, att utbilda journalister och förbättra "medborgarberedskapen mot manipulation på nätet och desinformation."

Lärare kan spela en nyckelroll när det gäller att främja ungdomsbyråer för att upptäcka djupt förfalskningar och minska deras inflytande. En utmaning är att se till att ungdomar lär sig kritiska mediekunskaper medan de fortsätter att utforska värdefulla resurser online och bygga upp sin kapacitet och kunskap för att delta i demokratiska strukturer.

Följande steg som jag har identifierat i modellen "Gör dig redo att agera mot sociala mediepropaganda" - som börjar med att förklara ställningstaganden i en kontroversiell fråga som riktas genom propaganda på sociala medier - kan utbildare hjälpa ungdomar att diskutera hur de uppfattar och känner igen djupa förfalskningar. De kan utforska innehållets ursprung, vem det riktar sig till, reaktionen den försöker uppnå och vem som ligger bakom.

De kan också diskutera ungdomars roll och ansvar för att svara och stå emot desinformation och potentiella digitala strategier att följa i denna process. En välutrustad generation digitala medborgare kan vara vår bästa insats.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.