Dessa dagar, den senaste utvecklingen inom forskning om artificiell intelligens (AI) får alltid mycket uppmärksamhet, men en AI-forskare vid U.S. Naval Research Laboratory tror att en AI-teknik kan bli lite för mycket.

Ranjeev Mittu leder NRL:s Information Management and Decision Architectures Branch och har arbetat inom AI-området i mer än två decennier.

"Jag tror att folk har fokuserat på ett område av maskininlärning - djupinlärning (aka djupa nätverk) - och mindre så på mångfalden av andra artificiell intelligenstekniker, "Den största begränsningen med djupa nätverk är att en fullständig förståelse för hur dessa nätverk kommer fram till en lösning fortfarande är långt ifrån verkligheten."

Deep learning är en maskininlärningsteknik som kan användas för att känna igen mönster, som att identifiera en samling pixlar som en bild av en hund. Tekniken innebär att skikta nervceller tillsammans, med varje lager ägnat åt att lära sig en annan abstraktionsnivå.

I exemplet med hundbild, de nedre lagren av det neurala nätverket lär sig primitiva detaljer som pixelvärden. Nästa uppsättning lager försöker lära sig kanter; högre lager lär sig en kombination av kanter som en näsa. Med tillräckligt många lager, dessa nätverk kan känna igen bilder med nästan människoliknande prestanda.

Men systemen kan lätt luras bara genom att ändra ett litet antal pixlar, enligt Mittu.

"Du kan ha kontradiktoriska "attacker" där när du väl har skapat en modell för att känna igen hundar genom att visa den miljontals bilder av hundar, " sa han. "...gör ändringar i ett litet antal pixlar, nätverket kan felklassificera det som en kanin, till exempel."

Den största bristen i denna maskininlärningsteknik, enligt Mittu, är att det finns en stor grad av konst att bygga dessa typer av nätverk, vilket innebär att det finns väldigt få vetenskapliga metoder för att förstå när de kommer att misslyckas.

Lösningen?

"Det finns många AI-tekniker där maskininlärning är en delmängd, ", sa han. "Även om djupinlärning har varit mycket framgångsrik, den är också för närvarande begränsad eftersom det finns liten synlighet i beslutsmotivet. Tills vi verkligen når en punkt där denna teknik blir helt "förklarlig, "det kan inte informera människor eller annan automatisering om hur det kom fram till en lösning, eller varför det misslyckades. Vi måste inse att djupa nätverk bara är ett verktyg i AI-verktygslådan."

Och, människor måste hålla sig i slingan.

"Föreställ dig att du har ett automatiskt hotdetektionssystem på bryggan på ditt skepp, och den plockar upp ett litet föremål vid horisonten, " sa han. "Den djupa nätverksklassificeringen kan indikera att det är en snabb attackfarkost som kommer mot dig, men du vet att en mycket liten uppsättning osäkra pixlar kan vilseleda algoritmen. Tror du på det?

"En människa måste undersöka det ytterligare. Det kan alltid behöva finnas en människa i slingan för högrisksituationer. Det kan finnas en hög grad av osäkerhet och utmaningen är att öka klassificeringsnoggrannheten samtidigt som antalet falsklarm hålls lågt. – Det är ibland väldigt svårt att hitta den perfekta balansen.

Problemet med maskininlärning

När det gäller maskininlärning, nyckelfaktorn, enkelt uttryckt, är data.

Tänk på ett av Mittus tidigare projekt:en analys av kommersiella fartygsrörelser runt om i världen. Projektets mål var att använda maskininlärning för att urskilja mönster i fartygstrafiken för att identifiera fartyg inblandade i olaglig verksamhet. Det visade sig vara ett svårt problem att modellera och förstå med hjälp av maskininlärning, sa Mittu.

"Vi kan inte ha en global modell eftersom beteendet kommer att skilja sig åt för fartygsklasser, ägare, etc." förklarade han. "Det är till och med olika säsongsmässigt, på grund av sjötillstånd och vädermönster."

Men det större problemet, Mittu hittade, var möjligheten att felaktigt använda data av dålig kvalitet.

"Fartyg överför sin plats och annan information, precis som flygplan. Men det de sänder kan förfalskas, "Sa Mittu. "Du vet inte om det är bra eller dålig information. Det är som att ändra det lilla antalet pixlar på hundbilden som gör att systemet misslyckas."

Saknade data är en annan fråga. Föreställ dig ett fall där du måste flytta ett stort antal människor och material på regelbunden basis för att upprätthålla militära operationer, och du förlitar dig på ofullständig data för att förutsäga hur du kan agera mer effektivt.

"Svårigheten kommer när du börjar träna maskininlärningsalgoritmer på data som är av dålig kvalitet, ", sa Mittu. "Maskininlärning blir opålitlig någon gång, och operatörer kommer inte att lita på resultatet av algoritmerna."

Nuvarande arbete inom AI

Idag fortsätter Mittus team att sträva efter AI-innovationer inom flera områden av fältet. De förespråkar ett tvärvetenskapligt tillvägagångssätt för att använda AI-system för att lösa komplexa problem.

"Det finns många sätt att förbättra prediktiv förmåga, men förmodligen kommer den bästa i rasen att ta ett holistiskt tillvägagångssätt och använda flera AI-tekniker och strategiskt integrera den mänskliga beslutsfattaren, " han sa.

"Aggregering av olika tekniker (liknande 'förstärkning'), som kan "vikta" algoritmer annorlunda, kan ge ett bättre svar, eller lärande i kombination med resonemang, etc. Genom att använda kombinationer av AI-tekniker, det resulterande systemet kan vara mer robust mot dålig datakvalitet."

Ett område som Mittu är entusiastisk över är rekommendatorsystem. Enligt honom, de flesta människor är redan bekanta med dessa system, som används i sökmotorer och underhållningsapplikationer som Netflix. Han är exalterad över de potentiella militära tillämpningarna.

"Tänk på ett militärt ledningssystem, där användare behöver bra information för att fatta bra beslut, ", sa han. "Genom att titta på vad användaren gör i systemet i något sammanhang, kan vi förutse vad användaren kan göra härnäst och härleda den data de kan behöva."

Medan AI-området erbjuder nästan obegränsad potential för innovativa lösningar på dagens problem, Mittu sa, forskare har uppenbarligen många års arbete framför sig.

"Vi måste bestämma rätt teknik, deras begränsningar, och de data som behövs för att få tillförlitliga svar för att användarna ska kunna lita på det resulterande systemet, ", sa han. "Fältet AI har en lång väg att gå när det gäller att ta ett holistiskt tillvägagångssätt genom att strategiskt integrera beslutsfattaren för att förbättra prestandan hos människans och maskinens system."