Princeton forskare, i samarbete med Analog Devices Inc., har tillverkat ett chip som markant ökar prestandan och effektiviteten hos neurala nätverk – datoralgoritmer som bygger på hur den mänskliga hjärnan fungerar.

I en serie tester, Princeton-chippet presterade tio till hundratals gånger bättre än andra avancerade, neurala nätverkschips.

Forskarna tror att med fortsatt utveckling, chippet kan hjälpa till att förbättra bildigenkänning och många andra neurala nätverksapplikationer, inklusive artificiell intelligens i autonoma fordon och robotar.

"Den här typen av förbättrad prestanda kan låta mobila enheter utföra intensiva uppgifter, som att känna igen sin ägares ansikte, utan att ta upp för mycket tid eller tära på enhetens batteritid, sa tidningens huvudförfattare Hossein Valavi, en doktorand i labbet av medförfattaren Naveen Verma, en docent i elektroteknik vid Princeton.

Andra författare till studien, som publicerades i IEEE-symposium om VLSI-kretsar , i juni, är Peter Ramadge, Gordon Y.S. Wu professor i teknik och chef för Center for Statistics and Machine Learning, och Eric Nestler från Analog Devices Inc, ett Massachusetts-baserat halvledarföretag.

Konstgjorda neurala nätverk är komplex av sammankopplade enheter – liknande neuroner i den mänskliga hjärnan – som kan tränas för att fatta värdefulla beslut utifrån data som ges i många olika, möjligen naturligt förekommande, men strukturellt komplexa former. En nyckelkomponent i neurala nätverkssystem är acceleratorchips, som ökar beräkningsprestanda, för att möjliggöra stora och kraftfulla neurala nätverk. Men själva acceleratorchipsen kan drabbas av flaskhalsar på grund av de tunga dataflödena som går genom deras komponenter.

Forskarna tog ett nytt tillvägagångssätt för att eliminera mycket av denna morrande trafik. Acceleratorchippet de tillverkade fungerar med tekniken, kallas in-memory computing, vilket avsevärt minskar energin och tiden som används för att hämta information genom att utföra beräkningar på data på plats där den lagras, istället för att flytta den till en annan plats.

Tekniken kan också göra chips mottagliga för signal-till-brus-problem, eftersom det proppar in massor av information i signaler. Resultatet är ökad effektivitet – men det innebär också att informationen som bearbetas kan skadas av alla möjliga praktiska felkällor som fluktuationer i spänningar och strömmar.

"Beräkningssignal-brus-förhållandet har varit huvudbarriären för att uppnå alla fördelar med minnesdatorer, sa Valavi.

Forskarna åtgärdade detta prestandaproblem genom att välja en typ av datorer som använder kondensatorer, snarare än transistorer, att utföra beräkningar. Kondensatorer, som är enheter som lagrar elektrisk laddning, erbjuda flera fördelar. De kan tillverkas med extremt hög precision i moderna mikrochipsteknologier, vilket är viktigt i kretsdesign, och de påverkas inte särskilt mycket av förändringar i spänning eller temperatur. Kondensatorer tar också upp relativt lite utrymme - Princetons in-memory computing chip placerar dem ovanpå minnescellerna, så att de inte tar plats bortom cellerna. Detta minskar chipets datakommunikationskostnader ytterligare genom att placera kondensatorer inuti minneskomponenter. Denna inställning minskar mängden yta som de elektriska signalerna som överför data måste passera, vilket ger höga bearbetningshastigheter och lägre energi.

"Vi slutar med mycket exakta kretsar och dessa kondensatorer tar inte upp någon extra yta på chipet, sa Verma.

Princeton-teamet testade sitt system i flera vanliga benchmark-tester. Dessa inkluderade identifieringsnummer klottrade av människohänder, en uppgift som kompliceras av vårt enorma utbud av handstilar, från punktlig till dagis-slarvig. En liknande uppgift var att analysera husnummer med gatuvy, som likaså varierar vilt i form, form, bildskärpa, orientering, och så vidare. I ett tredje test, det chipförstärkta neurala nätverket kände igen vardagliga föremål som katter, hundar, fåglar, bilar, flygplan, fartyg, och så vidare.

Forskarna testade sin design mot andra tillgängliga för närvarande. I ett, de mätte antalet beräkningsoperationer som chippet kunde utföra på en sekund. I verkligheten, denna typ av genomströmningsutvärdering motsvarar hur länge någon måste vänta innan en hårdvara, som en mobiltelefon, spottar ur sig ett sista svar. Princeton-chippet utförde 9,4 biljoner binära operationer per sekund.

Testresultaten är uppmuntrande men forskarna sa att chippet kommer att behöva ytterligare arbete innan det kan införlivas i elektroniska enheter. Dess arkitektur måste göras programmerbar och kompatibel med andra bitar av hårdvara, inklusive centrala bearbetningsenheter, datorernas kontrollcenter. Efter det, mjukvaruinfrastrukturen måste byggas ut så att designers av artificiell intelligens kan skapa nya appar som utnyttjar chipets potentiellt banbrytande prestanda.

Naresh Shanbhag, en professor i el- och datorteknik vid University of Illinois Urbana-Champaign som inte var involverad i Princeton-studien, anser att denna potential är ytterst realiserbar. "De tekniska utmaningarna som [chippet] står inför i en kommersiell miljö är ytterst överkomliga via standardiserade tekniska bästa praxis, sa Shanbhag.

Shanbhag kommenterade vidare chipets applikationer. "Detta arbete öppnar upp nya applikationsdomäner för artificiell intelligenssystem, " han sa, specificerar "energi- och latens-begränsade datorplattformar, såsom autonoma fordon och robotar, såväl som olika sensorrika Internet-of-Things-enheter."

Forskarna ser fram emot att ta in-memory computing chipet till en högre nivå av teknisk beredskap.

"Nästa steg är att ta denna mycket höga effektivitet och höga beräkningskapacitet och göra den tillgänglig för ett brett spektrum av applikationer, ", sa Verma. "Chipets stora nackdel är att det använder en mycket störande arkitektur. Det måste förenas med den enorma mängd infrastruktur och designmetodik vi har och använder idag, i praktiken."