Teknikföretag och akademiker har gått samman för att lansera en "deepfake -utmaning" för att förbättra verktyg för att upptäcka videor och andra medier som manipuleras av artificiell intelligens.

Initiativet som meddelades på torsdagen innehåller 10 miljoner dollar från Facebook och syftar till att stävja det som ses som ett stort hot mot integriteten i online -information.

Insatsen stöds av Microsoft och det branschstödda partnerskapet om AI och inkluderar akademiker från Massachusetts Institute of Technology, Cornell University, Oxfords universitet, University of California-Berkeley, University of Maryland och University at Albany.

Det representerar en bred insats för att bekämpa spridningen av manipulerad video eller ljud som en del av en felinformationskampanj.

"Målet med utmaningen är att ta fram teknik som alla kan använda för att bättre upptäcka när AI har använts för att ändra en video för att vilseleda tittaren, "säger Facebooks tekniska chef Mike Schroepfer.

Schroepfer sa deepfake -tekniker, som presenterar realistiska AI-genererade videor av människor som gör och säger fiktiva saker, "har betydande konsekvenser för att bestämma legitimiteten för information som presenteras online. Ändå har branschen inte en stor datamängd eller riktmärke för att upptäcka dem."

Utmaningen är det första projektet av en kommitté för AI och medieintegritet som skapats av partnerskapet om AI, en grupp vars uppdrag är att främja fördelaktig användning av artificiell intelligens och som stöds av Apple, Amazon, IBM och andra teknikföretag och icke-statliga organisationer.

Terah Lyons, verkställande direktör för partnerskapet, sa att det nya projektet är en del av ett försök att stoppa AI-genererade förfalskningar, som "har betydande, globala konsekvenser för legitimiteten av information online, kvaliteten på det offentliga samtalet, skydd av mänskliga rättigheter och medborgerliga friheter, och hälsan hos demokratiska institutioner. "

Facebook sa att det erbjuder medel för forskningssamarbeten och priser för utmaningen, och skulle också delta i tävlingen, men ta inte emot några av prispengarna.

Oxford -professor Philip Torr, en av de akademiker som deltar, sa att nya verktyg "snabbt behövs för att upptäcka dessa typer av manipulerade medier.

"Manipulerade medier läggs ut på internet, att skapa falska konspirationsteorier och manipulera människor för politisk vinning, blir en fråga av global betydelse, eftersom det är ett grundläggande hot mot demokratin, "Sade Torr i ett uttalande.

© 2019 AFP