Artificiell intelligens skulle kunna sättas in av diktatorer, brottslingar och terrorister för att manipulera val och använda drönare i terroristattacker, mer än två dussin experter sa på onsdagen när de slog larm över missbruk av tekniken.

I en 100-sidig analys, de beskrev en snabb tillväxt av cyberbrottslighet och användningen av "bots" för att störa nyhetsinsamling och penetrera sociala medier bland en mängd rimliga scenarier under de kommande fem till 10 åren.

"Vår rapport fokuserar på sätt på vilka människor kan göra avsiktlig skada med AI, " sa Sean O hEigeartaigh, Verkställande direktör för Cambridge Center for the Study of Existential Risk.

"AI kan utgöra nya hot, eller ändra karaktären på befintliga hot, över cyber-, fysisk, och politisk säkerhet, "sa han till AFP.

Vanlig praxis, till exempel, av "nätfiske" – att skicka e-postmeddelanden som är sådda med skadlig programvara eller utformade för att hantera värdefulla personuppgifter – kan bli mycket farligare, rapporten i detalj.

För närvarande, Försök till nätfiske är antingen generiska men genomskinliga – som bedragare som ber om bankuppgifter för att deponera en oväntad oväntad oväntad risk – eller personliga men arbetsintensiva – att samla in personuppgifter för att vinna någons förtroende, känd som "spear phishing".

"Med hjälp av AI, det kan bli möjligt att göra spear phishing i stor skala genom att automatisera mycket av processen" och göra det svårare att upptäcka, O hEigeartaigh noterade.

På det politiska området, skrupelfria eller autokratiska ledare kan redan använda avancerad teknik för att sålla bland berg av data som samlats in från allestädes närvarande övervakningsnätverk för att spionera på sitt eget folk.

"Diktatorer kunde snabbare identifiera personer som kanske planerar att undergräva en regim, hitta dem, och sätt dem i fängelse innan de agerar, " stod det i rapporten.

Likaså, riktad propaganda tillsammans med billig, mycket trovärdiga falska videor har blivit kraftfulla verktyg för att manipulera den allmänna opinionen "på tidigare ofattbara skalor".

Ett åtal som utfärdades av den amerikanska specialåklagaren Robert Mueller förra veckan beskrev en omfattande operation för att så social splittring i USA och påverka presidentvalet 2016 där så kallade "trollfarmar" manipulerade tusentals sociala nätverksbotar, speciellt på Facebook och Twitter.

En annan farozon vid horisonten är spridningen av drönare och robotar som kan användas för att krascha autonoma fordon, leverera missiler, eller hota kritisk infrastruktur för att få lösen.

Autonoma vapen

"Personligen, Jag är särskilt orolig över att autonoma drönare används för terror och automatiserade cyberattacker av både kriminella och statliga grupper, " sa medförfattaren Miles Brundage, en forskare vid Oxford Universitys Future of Humanity Institute.

Rapporten beskriver ett rimligt scenario där en kontorsstädande SweepBot utrustad med en bomb infiltrerar det tyska finansministeriet genom att smälta in med andra maskiner av samma märke.

Den inträngande roboten beter sig normalt – svepande, rengöring, rensa skräp – tills dess dolda ansiktsigenkänningsprogram upptäcker prästen och stänger in sig.

"En dold explosiv anordning utlöstes av närhet, döda ministern och skada närliggande personal, " enligt sci-fi-historien.

"Denna rapport har föreställt sig hur världen kan se ut under de kommande fem till tio åren, " O hEigeartaigh sa.

"Vi lever i en värld fylld av dagliga faror från missbruk av AI, och vi måste ta ansvar för problemen."

Författarna uppmanade beslutsfattare och företag att göra robotstyrd programvara ohackbar, att införa säkerhetsrestriktioner för viss forskning, och att överväga att utöka lagar och förordningar som styr AI-utveckling.

Jätte högteknologiska företag – ledare inom AI – "har massor av incitament för att se till att AI är säker och fördelaktig, " stod det i rapporten.

Ett annat problemområde är den utökade användningen av automatiserade dödliga vapen.

Förra året, mer än 100 robot- och AI-entreprenörer – inklusive Tesla och SpaceX vd Elon Musk, och den brittiske astrofysikern Stephen Hawking – begärde att FN skulle förbjuda autonoma mördarrobotar, varning för att vapnen i den digitala tidsåldern kan användas av terrorister mot civila.

"Dödliga autonoma vapen hotar att bli den tredje revolutionen i krigföring, "efter uppfinningen av maskingevär och atombomben, de varnade i ett gemensamt uttalande, även undertecknad av Google DeepMinds medgrundare Mustafa Suleyman.

"Vi har inte lång tid på oss att agera. När denna Pandoras ask öppnas, det kommer att bli svårt att stänga."

Bidragsgivare till den nya rapporten – med titeln "The Malicious Use of AI:Forecasting, Förebyggande, and Mitigation"—inkluderar även experter från Electronic Frontier Foundation, Center for a New American Security, och OpenAI, ett ledande icke-vinstdrivande forskningsföretag.

"Oavsett om AI är, med alla saker i åtanke, nyttigt eller skadligt i det långa loppet är till stor del en produkt av vad människor väljer att göra, inte själva tekniken, sa Brundage.

© 2018 AFP