Under det senaste decenniet eller så, djupinlärningsmetoder har blivit allt effektivare vid bearbetning av statiska data, till exempel bilder. Dock, dessa tekniker har visat sig vara något mindre effektiva vid analys av tidsdata, som videor, mänskligt tal och andra strömningsinmatningar. Detta beror främst på att bearbetning av tidsdata kräver större artificiella neurala nätverk, som är dyrare att utbilda och genomföra.

Med detta i åtanke, ett team av forskare vid University of Michigan har nyligen utvecklat ett reservoarberäkningssystem för att bearbeta tidsdata mer effektivt. Reservoarberäkningssystem består i huvudsak av en reservoar som kartlägger ingångar till ett högdimensionellt utrymme och en avläsning för mönsteranalys baserad på reservoarens högdimensionella tillstånd.

Dessa system har visat sig vara särskilt effektiva för tids- eller sekventiell databehandling. Systemet utvecklat av forskarna, som presenterades i ett papper publicerat i Nature Electronics , är baserad på dynamisk volframoxid (WO _x ) memristors med internt korttidsminne.

"En huvudorsak till den stora nätverksstorlek som behövs för att bearbeta tidsdata är det stora antalet möjliga tidsfunktioner som behöver läras in och lagras av nätverket, "Wei Lu, seniorförfattaren som ledde studien, berättade TechXplore. "För att lösa det här problemet, vi använde ett 'reservoir computing' koncept, där 'reservoaren' i systemet kan bearbeta ingångar utan att behöva lära sig funktionerna. Detta aktiveras av behållarens egenskap 'korttidsminne', så att den kan svara (bli upphetsad) i enlighet med olika ingångar utan att behöva lagra något uttryckligen. "

De flesta tidigare utvecklade reservoarerna byggdes med digitala kretsar som efterliknar korttidsminneeffekter. Detta gör dem i slutändan svåra att genomföra fysiskt, och därmed mycket opraktiskt.

Lu och hans kollegor, å andra sidan, tillverkade sitt reservoarberäkningssystem med hjälp av WO _x memristor-enheter med inneboende korttidsminneegenskaper. Med andra ord, varje enskild memristor -enhet är ett dynamiskt system i sig och kan bearbeta ett brett spektrum av tidsinmatningar.

Genom dessa memristors, reservoarsystemet kan olinjärt kartlägga tidsmässiga ingångar till reservoartillstånd. Projicerade funktioner kan sedan enkelt bearbetas med en linjär avläsningsfunktion.

"Genom att dra fördel av enheternas interna dynamik för att naturligtvis utföra datorer, vi kunde bygga reservoernätverket med bara ett litet antal memristor -enheter som leder till mycket mindre fotavtryck, kosta, och strömförbrukning, "Förklarade Lu.

Lu och hans kollegor demonstrerade och utvärderade sitt system på en standard taligenkänningsuppgift som innebär att känna igen talade siffror. Deras system kunde känna igen siffror som talas av människor med en anmärkningsvärd noggrannhet på 99,2 procent.

"Mer intressant, eftersom nätverket kan fånga de temporära funktionerna i ingången, vi visade att vi också kan använda nätverket för att utföra förutsägelse/prognosfunktioner, "Sa Lu." Till exempel, i taligenkänning, vi kan förutsäga talarens avsedda ord innan talaren avslutar det. I ett annat exempel, vi visade nätverkets förmåga att fånga de komplexa egenskaperna hos ett kaotiskt system och på ett tillförlitligt sätt förutsäga det kaotiska systemets utveckling på lång sikt, vilket är en mycket utmanande uppgift. "

I framtiden, reservoarberäkningssystemet för att analysera och förutsäga tidsinmatningar som utarbetats av detta forskargrupp kan ha många intressanta tillämpningar. Till exempel, det kan hjälpa till att förbättra gränssnitt mellan människa och maskin, autonoma körplattformar, och annan teknik som kräver bearbetning eller prognos av strömmande ingångar.

Dessutom, med denna nya metod, storleken och strömförbrukningen för artificiella neurala nätverk för behandling av tidsdata kan minskas avsevärt. Detta kan göra det enklare och billigare att bädda in dessa nätverk i befintliga system, i slutändan tillåter forskare att utrusta ett bredare utbud av enheter med realtidstidsanalysfunktioner i realtid.

"Vi arbetar nu med mer komplexa system och med att ytterligare förbättra nätverkets prestanda, "Tillade Lu.

© 2019 Science X Network