När Mark Zuckerberg berättade för kongressen att Facebook skulle använda artificiell intelligens för att upptäcka falska nyheter på sociala medier, han var inte särskilt specifik om vad det betydde. Med tanke på mitt eget arbete med bild- och videoanalys, Jag föreslår att företaget bör vara försiktiga. Trots några grundläggande potentiella brister, AI kan vara ett användbart verktyg för att upptäcka propaganda online – men det kan också vara häpnadsväckande bra på att skapa vilseledande material.

Forskare vet redan att falska nyheter på nätet sprids mycket snabbare och bredare än riktiga nyheter. Min forskning har på liknande sätt funnit att onlineinlägg med falsk medicinsk information får fler visningar, kommentarer och likes än de med korrekt medicinskt innehåll. I en onlinevärld där tittarna har begränsad uppmärksamhet och är mättade med innehållsval, det verkar ofta som om falsk information är mer tilltalande eller engagerande för tittarna.

Problemet blir värre:år 2022, människor i utvecklade ekonomier kan stöta på mer falska nyheter än verklig information. Detta kan orsaka ett fenomen som forskare har kallat "verklighetsyrsel" – där datorer kan generera så övertygande innehåll att vanliga människor kan ha svårt att ta reda på vad som är sant längre.

Upptäcker falskhet

Maskininlärningsalgoritmer, en typ av AI, har varit framgångsrika i decennier med att bekämpa skräppost, genom att analysera meddelandens text och avgöra hur troligt det är att ett visst meddelande är en verklig kommunikation från en verklig person – eller en massdistribuerad uppmaning om läkemedel eller anspråk på en sedan länge förlorad förmögenhet.

Bygger på denna typ av textanalys i spam-bekämpning, AI-system kan utvärdera hur väl ett inläggs text, eller en rubrik, jämför med det faktiska innehållet i en artikel som någon delar på nätet. En annan metod skulle kunna undersöka liknande artiklar för att se om andra nyhetsmedier har olika fakta. Liknande system kan identifiera specifika konton och källwebbplatser som sprider falska nyheter.

En oändlig cykel

Dock, dessa metoder förutsätter att de som sprider falska nyheter inte ändrar sina synsätt. De byter ofta taktik, manipulera innehållet i falska inlägg i försök att få dem att se mer autentiska ut.

Att använda AI för att utvärdera information kan också avslöja – och förstärka – vissa fördomar i samhället. Detta kan relatera till kön, rasbakgrund eller kvartersstereotyper. Det kan till och med få politiska konsekvenser, potentiellt begränsa uttrycket av särskilda synpunkter. Till exempel, YouTube har stängt av reklam från vissa typer av videokanaler, kostar deras skapare pengar.

Sammanhang är också nyckeln. Ordens betydelser kan förändras över tid. Och samma ord kan betyda olika saker på liberala sajter och konservativa. Till exempel, ett inlägg med termerna "WikiLeaks" och "DNC" på en mer liberal sida kan vara mer sannolikt att vara nyheter, medan det på en konservativ sida kan referera till en viss uppsättning konspirationsteorier.

Använder AI för att skapa falska nyheter

Den största utmaningen, dock, Att använda AI för att upptäcka falska nyheter är att det sätter tekniken i en kapprustning med sig själv. Maskininlärningssystem har redan visat sig skrämmande kapabla att skapa vad som kallas "deepfakes" – foton och videor som realistiskt sett ersätter en persons ansikte med en annan, för att få det att verka som till exempel, en kändis fotograferades i en avslöjande pose eller en offentlig person säger saker som han aldrig faktiskt skulle säga. Även smartphone-appar är kapabla till den här typen av ersättning – vilket gör denna teknik tillgänglig för nästan alla, även utan videoredigeringskunskaper på Hollywood-nivå.

Forskare förbereder sig redan för att använda AI för att identifiera dessa AI-skapade förfalskningar. Till exempel, tekniker för videoförstoring kan upptäcka förändringar i mänsklig puls som skulle fastställa om en person i en video är verklig eller datorgenererad. Men både falska och falska detektorer kommer att bli bättre. Vissa förfalskningar kan bli så sofistikerade att de blir mycket svåra att motbevisa eller avfärda – till skillnad från tidigare generationer av förfalskningar, som använde ett enkelt språk och gjorde lätt motbevisade påståenden.

Mänsklig intelligens är den verkliga nyckeln

Det bästa sättet att bekämpa spridningen av falska nyheter kan vara att vara beroende av människor. De samhälleliga konsekvenserna av falska nyheter – större politisk polarisering, ökad partiskhet, och urholkat förtroende för vanliga medier och myndigheter – är betydande. Om fler visste att insatserna var så höga, de kan vara mer försiktiga med information, speciellt om det är mer känslomässigt baserat, eftersom det är ett effektivt sätt att få folks uppmärksamhet.

När någon ser ett upprörande inlägg, den personen skulle göra bättre för att undersöka informationen, istället för att dela det direkt. Handlingen att dela ger också trovärdighet till ett inlägg:När andra människor ser det, de registrerar att det delades av någon de känner och förmodligen litar på åtminstone lite, och är mindre benägna att lägga märke till om originalkällan är tveksam.

Sociala medier som YouTube och Facebook kan frivilligt bestämma sig för att märka sitt innehåll, visar tydligt om ett inslag som utger sig för att vara en nyhet har verifierats av en ansedd källa. Zuckerberg sa till kongressen att han vill mobilisera "gemenskapen" av Facebook-användare för att styra sitt företags algoritmer. Facebook skulle kunna samla in verifieringsansträngningar. Wikipedia erbjuder också en modell, av engagerade volontärer som spårar och verifierar information.

Facebook skulle kunna använda sina partnerskap med nyhetsorganisationer och volontärer för att träna AI, ständigt finjustera systemet för att svara på propagandisters förändringar i ämnen och taktik. Detta kommer inte att fånga alla nyheter som läggs upp på nätet, men det skulle göra det lättare för ett stort antal människor att skilja fakta från falska. Det kan minska chanserna att fiktiva och vilseledande berättelser skulle bli populära på nätet.

lugnande nog, personer som har en viss exponering för korrekta nyheter är bättre på att skilja mellan verklig och falsk information. Nyckeln är att se till att åtminstone en del av det som folk ser online är, faktiskt, Sann.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.