När Googles AlphaGo besegrade den kinesiske stormästaren i en omgång Go 2017, Kina konfronterades med sitt eget "Sputnik-ögonblick":en uppmaning att öka sitt spel på utvecklingen av artificiell intelligens (AI). Säker nog, Peking strävar efter att lansera en AI-innovationsagenda på nationell nivå för "civil-militär fusion". Det är en del av Kinas ambitiösa strävan att bli en "vetenskaps- och tekniksupermakt" – men också en ny front i en allt mer oroande kapprustning.
Under 2017, den kinesiske presidenten, Xi Jinping efterlyste uttryckligen en acceleration av militär AI-forskning för att bättre förbereda Kina för framtida krigföring mot en stor motståndare som USA. Kinas inställning till AI har starkt påverkats av dess bedömning av amerikanska militära initiativ, i synnerhet Pentagons tredje offset-strategi, en plan från Obama-eran som gav Pentagon mandat att experimentera med banbrytande vapenteknologier, AI bland dem.
Peking har fortfarande inte formellt formulerat ett sammanhängande strategiskt ramverk eller operativa koncept men, som Ryssland, det fortsätter att driva en rad militära AI-tekniker som en del av en bredare ansträngning för att utnyttja sårbarheter i amerikanska militära tillgångar.
Medan USA (för nu) behåller övertaget i AI-innovation över hela linjen, Kina är ikapp. Det är en stark konkurrent inom alla typer av militär innovation, och förväntas gå om USA inom AI-utveckling inom en inte så avlägsen framtid. Och, när USA och Kina tävlar om att förnya sig inom AI, osäkerheten kring deras respektive framsteg (och bakslag) kommer att ha djupgående och potentiellt destabiliserande konsekvenser för den strategiska balansen i världsordningen.
Bland alla risker som detta innebär, överst på listan är att när USA och Kinas strategier för militär innovation skiljer sig åt, nya fördomar och preferenser – till exempel, kriterier för att avgöra när användningen av dödligt våld är lämpligt och etiskt försvarbart – kommer att "bakas in i" deras respektive AI-vapensystem, vilket resulterar i intelligenta vapen som agerar på grundval av bristfällig mänsklig logik eller antaganden (som redan har observerats i algoritmer som utvecklats för att bedöma brottslingars benägenhet att återvända till brott). De resulterande kognitiva fördomarna kan förvärra de två ländernas ömsesidiga misstro, misstankar och missuppfattningar, och eventuellt knuffa dem närmare en större konflikt.
Hot om hälarna
Kina har flera strukturella, politiska och samhälleliga fördelar i AI-kapprustningen. Dess nationella strategiska planering är mycket mer sammanhängande än USA:s, och dess nationella datauppsättningar är oöverträffade i storlek. Xis vidsträckta "Ett bälte, One Road-initiativet, en plan för att bygga ett stort internationellt nätverk av handelsförbindelser och infrastruktur, har en begynnande virtuell motsvarighet:den så kallade "Digital Silk Road", som omfattar inte bara AI utan även kvantberäkning, nanoteknik, big data, och molnlagring.
Situationen i USA är mycket stökigare. Trump-administrationen och Silicon Valley delar ett allt mer ansträngt förhållande, vilket innebär att de kommer att kämpa för att arbeta tillsammans på AI-tekniker som den amerikanska militären kan använda. Om amerikansk kommersiell AI-innovation fortsätter att snabbt överträffa Pentagons mycket trögare inställning till AI-upphandling och utveckling, de två kommer inte att komplettera varandra som de borde – vilket ger Kina en stor möjlighet att få övertaget.
USA verkar vidta åtgärder för att ta itu med dessa problem. Trots en kort paus i utvecklingen av USA:s AI strategiska färdkarta, Vita huset tillkännagav nyligen inrättandet av en ny kommitté av AI-experter för att ge råd om policyval. Och 2017, Donald Trump blockerade ett kinesiskt företag från att förvärva Lattice Semiconductor, ett amerikanskt företag som tillverkar chips som är avgörande för driften av AI-applikationer.
Dessa steg återspeglar en djupare oro över att Kinas strategi att förena civil och militär teknisk innovation skulle kunna tillåta amerikansk teknologi, expertis och immateriella rättigheter som delas med kinesiska kommersiella enheter för att överföras till Kinas militär.
Terminator-gåtan
Det verkar som att Kina – liksom Ryssland – har relativt få moraliska, juridiska eller etiska betänkligheter vid utplacering av dödliga autonoma vapen. Nya rapporter tyder på att Kina redan har börjat införliva AI-teknik i sin nästa generations konventionella missiler och missilförsvarsintelligens, övervaknings- och spaningssystem för att förbättra deras precision och laglighet.
USA kommer sannolikt att vara mycket mer begränsad i utvecklingen av dessa teknologier. Pentagons återhållsamhet att införliva AI i befintliga vapen är grundad i liberala demokratiska normer som styr användningen av militärt våld, och i en oro för att undvika vad Pentagon har kallat Terminator-gåtan – utsikten att militära robotar en dag självständigt kan bestämma sig för om de ska ta ett människoliv eller inte.
Som sagt, drivs av den snabba takten i tekniska trender inom AI – och rivaliserande makters aggressiva jakt på dessa förmågor – kan USA:s nuvarande engagemang för att hålla människor i ledningen vackla. Om den nuvarande banan håller, Kina kommer snart att utmana USA:s ledning inom flera framväxande militärteknologiska strategiska områden. Det kommer sannolikt att påskynda Pentagons ansträngningar att förnya kompenserande initiativ och koncept – och i sin tur, göra det svårare att hålla denna störande högteknologiska kapprustning i schack.
Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln. 
