En nätverksuppsättning agenter (betecknade som färgade noder) tränar sina individuella djupa neurala nät med hjälp av lokalt tillgänglig data samtidigt som de interagerar med grannnoder via tillgängliga kommunikationslänkar (representerade med grå kanter). Kredit:U.S. Army grafik
En ny algoritm möjliggör djupinlärning som är mer samarbets- och kommunikationseffektiv än traditionella metoder.
Arméforskare utvecklade algoritmer som underlättar distribuerade, decentraliserade och samarbetsinlärningsmöjligheter bland enheter, undvika behovet av att samla all data på en central server för inlärning.
"Det har skett en exponentiell tillväxt i mängden data som samlas in och lagras lokalt på individuella smarta enheter, "sa Dr Jemin George, en arméforskare vid U.S. Army Combat Capabilities Development Commands Army Research Laboratory. "Många forskningsinsatser såväl som företag har fokuserat på att tillämpa maskininlärning för att extrahera värde från så massiva data för att ge datadrivna insikter, beslut och förutsägelser."
Dock, ingen av dessa ansträngningar tar upp några av de problem som är förknippade med att tillämpa maskininlärning på en omtvistad, överbelastat och begränsat stridsutrymme, sa George. Dessa stridsutrymmesbegränsningar blir mer uppenbara när enheterna använder algoritmer för djupinlärning för beslutsfattande på grund av de höga beräkningskostnaderna när det gäller inlärningstid och processorkraft.
"Denna forskning försöker ta itu med några av utmaningarna med att tillämpa maskininlärning, eller djupinlärning, i militära miljöer, "sade doktor Prudhvi Gurram, en forskare som bidragit till denna forskning. "Tidiga indikationer och varningar om hot ökar situationsmedvetenheten och bidrar till hur armén utvecklas och anpassar sig för att besegra fientliga hot."
Forskarna presenterade sina resultat vid 34th Association for the Advancement of Artificial Intelligence Conference on Artificial Intelligence i New York. En förtryckt version av tidningen finns online..
I en tidigare studie (se relaterade länkar nedan), forskarna visade att de distribuerade djupinlärningsalgoritmerna kan ge samma prestanda som de typiska centraliserade inlärningsalgoritmerna utan att aggregera data på en enda, centralt läge, samtidigt som inlärningstiden minskar linjärt med antalet enheter eller agenter som är involverade i distribuerad inlärning.
"Distribuerade inlärningsalgoritmer kräver vanligtvis flera kommunikationsrundor mellan agenterna eller enheterna som är involverade i inlärningsprocessen för att dela sin nuvarande modell med resten av nätverket, ", sade George. "Detta innebär flera kommunikationsutmaningar."
Arméns forskare utvecklade en ny teknik för att avsevärt minska kommunikationskostnaderna, med upp till 70 % i vissa scenarier, utan att offra inlärningshastigheten eller prestationsnoggrannheten.
Forskarna utvecklade en utlösande mekanism, vilket gjorde det möjligt för de enskilda agenterna att kommunicera sin modell med sina grannar endast om den har förändrats väsentligt sedan den senast överfördes. Även om detta avsevärt minskar kommunikationsinteraktionen mellan agenterna, det påverkar inte den totala inlärningshastigheten eller prestandanoggrannheten för den slutgiltiga inlärda modellen, Sa George.
Arméforskare undersöker hur denna forskning kan tillämpas på Internet of Battlefield Things, införlivande av kvantiserade och komprimerade kommunikationsscheman till den aktuella algoritmen för att ytterligare reducera kommunikationsoverheaden.
Arméns moderniseringsprioriteringar inkluderar nästa generations datornätverk (se relaterade länkar nedan), som gör det möjligt för armén att leverera ledare-godkända teknologiska kapaciteter till krigssoldater med bästa möjliga avkastning på investeringen för armén.
Framtida insatser kommer att utvärdera algoritmens beteende på större, militärrelevanta datamängder som använder beräkningsresurserna som finns tillgängliga via U.S.Army AI Innovation Institute, med algoritmen som förväntas övergå till att köra på edge -enheter, sa George.