De som oroar sig för att artificiell intelligens är så bra att det går ur kontroll för att göra människor till offer för kokta lögner som framställs som sanning, hade bäst ignorerat den senaste studien som säkert kommer att störa deras sömn. Tidningen tittar på en framgångsrik implementering av AI-genererade tal.

Lyssna, dessa galna tider kommer att bli galnare tider. Människor bakom den streckade linjen kommer att fortsätta skrika falska nyheter om alla artiklar som innehåller information som strider mot deras åsikter. Människor bakom den randiga linjen kommer att skrika falska nyheter eftersom, väl, orden kan bara vara falska nyheter (och foton, och talande huvudvideor) genererade genom artificiell intelligens.

TechCrunch var en av webbplatserna som rapporterade om forskningen och hur det bara tar mindre än tio dollar att tillverka ett FN -tal med hjälp av AI. Låt vara mindre än tio dollar, bedriften uppnåddes med ännu mindre än så.

"Teamet fick tag på en lättillgänglig språkmodell, sa Donovan Alexander Intressant teknik . Han sa att testkomponenterna var "en enkel modell för djup inlärning och billig molnlagring."

TechCrunch Jonathan Shieber sa med mindre än 7,80 dollar och 13 timmars programmeringstid, "forskare från Förenta Nationerna kunde utveckla ett program som kunde utforma realistiska tal för FN:s generalförsamling."

Joseph Bullock och Miguel Luengo-Oroz var de två forskarna som utförde experimentet. Deras mål:att utbilda en språkmodell som kan generera talstil i ämnen som sträcker sig från klimatförändringar till terrorism.

De diskuterade sitt arbete i sin artikel tillgänglig på arXiv, "Automatiserad talgenerering från FN:s generalförsamlings uttalanden:Kartläggning av risker i AI -genererade texter."

Var kom kostnaden och antalet träningstider ifrån? Författarna i tidningen sa att språkmodellen utbildades på under 13 timmar på NVIDIA K80 GPU, kostar så lite som $ 7,80 på AWS -spotinstanser.

De två författarna till detta papper är en del av Global Pulse, som är ett FN-initiativ från FN:s generalsekreterare. Fokus ligger på big data - det vill säga främja framsteg på sätt att utnyttja stora data på ett säkert och ansvarsfullt sätt.

De matade in engelska språkutskrifter av tal mellan 1970 och 2015 vid FN:s generalförsamling. Resultat:Deras programvara kan generera 50 till 100 ord per ämne med bara inmatningen av en eller två meningar som är relevanta för rubrikämnet.

Alexander påpekade att dessa tal "skulle vara tillräckligt starka för att engagera folkmassor i FN idag."

Deras vanliga modell hade tränats på Wikipedia, och matade senare 40 års tal av politiska ledare vid FN:s generalförsamling.

Shieber rapporterade mer om resultaten. Programmet I ungefär 90 procent av fallen kunde generera tillräckligt trovärdig text för att ha kommit från en generalförsamlings talare om ett politiskt ämne eller relaterat till en fråga som hade tagits upp av generalsekreteraren.

Karen Hao, MIT Technology Review :Forskarna testade modellen på tre typer av uppmaningar:allmänna ämnen (t.ex. "klimatförändringar"), öppningsrader från FN:s generalsekreterares kommentarer, och inflammatoriska fraser (t.ex. "invandrare är skyldiga ...").

Inte överraskande, de hittade resultat från den första kategorin som passade nära riktiga FN -tal ungefär 90% av tiden. Utgångar från den tredje kategorin, dock, krävde mer arbete för att generera, producerar övertygande utgångar cirka 60% av tiden.

Ändå, allt detta lämnade Shieber med en stark slutsats, att "deepfakes ålder är här och att förfalskade texter kan vara lika mycket ett hot som falska videor. Kanske mer, med tanke på hur billiga de är att producera. "

Hur är det med författarna? Säkert, deras motivation var, med sina egna ord, "för att öka medvetenheten om farorna med AI -textgenerering för fred och politisk stabilitet."

Alexander, särskilt, ropade på hur enkelt och billigt det var att dra bort den falska taltexten som trovärdiga föremål. Han skrev att "det finns en god chans inom en snar framtid, med små eller inga resurser, människor kan skapa AI -tal och politiskt innehåll för att sprida desinformation eller helt enkelt använda det för politiska vinster. "

Är det inte möjligt att kontrollera med FN -register för att se till att artikeln i frågor är verklig, inte falsk? Många människor kommer inte att bry sig om att kontrollera eller känna impulsen att göra det. Författarna skrev att man kan skapa kontroversiell text för ett tal, eller till och med skapa en "djup falsk" video av personen som håller talet, "Med tanke på att all denna information direkt kan publiceras via sociala medier, många individer kommer inte att kontrollera originalutskriften och anta att det är sant. "

Mer ansträngningar för att i sin tur upptäcka och svara på AI -genererat innehåll välkomnas.

© 2019 Science X Network