Hur säger en självkörande bil en person bortsett från en trafikkotte? Hur väljer Spotify låtar till min "Discover Weekly" spellista? Varför är Gmails spamfilter så effektivt?

Svaret är en typ av artificiell intelligens som kallas djupa neurala nätverk. Dessa nätverk är mycket bra på att känna igen och klassificera data, men de tenderar att ta mycket datorkraft och minne att köra - för mycket för att arbeta snabbt på något som din vanliga smartphone.

Nu har forskare på Northeastern visat ett sätt att köra djupa neurala nätverk på en smartphone eller liknande system. Med hjälp av deras metod, nätverken kan utföra uppgifter upp till 56 gånger snabbare än vad som visats i tidigare arbete, utan att förlora noggrannhet. De kommer att presentera sitt arbete på en konferens om artificiell intelligens nästa månad i New York.

"Det är svårt för människor att uppnå realtidskörning av neurala nätverk på en smartphone eller den här typen av mobila enheter, "säger Yanzhi Wang, en biträdande professor i el- och datateknik vid Northeastern. "Men vi kan få de flesta djupinlärningsapplikationer att fungera i realtid."

Vanligtvis, en mobil enhet måste vara ansluten till internet för att få tillgång till ett djupt neuralt nätverk. Telefonen samlar in data, men behandlingen sker på fjärrservrar - det är därför du inte kan prata med Siri när din iPhone är i flygplansläge.

Wang och hans kollegor har tagit fram ett sätt att både minska storleken på den neurala nätverksmodellen och automatiskt generera kod för att köra den mer effektivt. Detta arbete kan göra det möjligt att implementera djupa neurala nätverk i enheter som inte har konsekvent internetåtkomst. Och det har användningar långt utöver handsfree-kommunikation med din telefon.

"Det finns så många saker som behöver intelligens, "Säger Wang." Medicinsk utrustning, bärbara enheter, sensorer, smarta kameror. Alla dessa, de behöver något som förstärker erkännandet, segmentering, spårning, övervakning, och så många saker, men för närvarande är de begränsade. "

Artificiell intelligens används redan för att förbättra medicinsk teknik på sjukhus. Det finns gott om möjligheter för det att utöka användningen av bärbara enheter också, eventuellt ge vägledning för personer med funktionsnedsättning eller varna patienter och läkare för förändringar i hjärtrytmen eller andra problem. Men tänk dig att missa en varning om en potentiell hjärtinfarkt eftersom du var på tunnelbanan och inte hade service.

"För många applikationer för medicintekniska produkter, vi kan inte anta att den här typen av enheter alltid är ansluten till internet, "Säger Wang." Och i anslutningen till internet, det finns alltid en betydande försening. Allt måste beräknas och skickas tillbaka. "

När Wang säger "en betydande försening, "han pratar om bråkdelar av en sekund. Men det räcker för att göra skillnad.

"För självkörande bilar, all data måste skickas till ett molndatacenter, då finns det en överföringsfördröjning som skickar tillbaka den, "Säger Wang." Kanske. 1 sekunder. Och dessa. 1 sekunder kan orsaka skada. "

Att eliminera den bråkdelen av en andra fördröjning kan rädda liv.

Wang noterar också att djupa neurala nätverk kan väcka integritetshänsyn, eftersom personlig information delas över molnet för att dessa nätverk ska fungera. Bearbetar data lokalt, utan att skicka den till avlägsna servrar, kan göra människor mer bekväma med att använda enheter som drivs av artificiell intelligens.

"Tidigare, människor trodde att djup inlärning behövde dedikerade marker, eller kan bara köras på servrar över molnet, "Wang säger." Denna typ av kunskapstänkande begränsar tillämpningen av det djupa lärandet. Vi kan inte alltid lita på molnet. Vi måste göra lokala, smarta beslut. "