Om du vill sortera igenom ett stort antal digitala bilder, eller klassificera sinnesbedövande mängder skriftlig information efter ämne, du litar bäst på artificiell intelligens (AI) system som kallas neurala nätverk, som letar efter mönster i data och tränar sig att göra förutsägelser baserat på sina observationer.

Men när det gäller områden med hög insats som medicinsk information, där kostnaden för att göra ett misstag eller en fel förutsägelse är potentiellt livshotande, vi människor är ibland ovilliga att lita på de svar som programmen kommer med. Det beror på att neurala nät använder maskininlärning, där de tränar sig själva i hur man räknar ut saker, och våra små kötthjärnor kan inte se processen.

Även om maskininlärningsmetoder "är flexibla och normalt leder till exakta förutsägelser, de avslöjar lite i människans begripliga termer om varför en viss förutsägelse görs, "säger Tommi Jaakkola, professor i elektroteknik och datavetenskap vid Massachusetts Institute of Technology, via e -post.

Om du är en cancerpatient som försöker välja behandlingsalternativ baserat på förutsägelser om hur din sjukdom kan utvecklas, eller en investerare som försöker ta reda på vad du ska göra med ditt pensionssparande, att lita blint på en maskin kan vara lite skrämmande - särskilt eftersom vi har lärt maskinerna att fatta beslut, men vi har inte ett bra sätt att observera exakt hur de gör dem.

Men var inte rädd. I en ny vetenskaplig uppsats, Jaakkola och andra forskare vid Massachusetts Institute of Technology har utvecklat en metod för att kontrollera svaren som neurala nät kommer med. Se det som en maskininlärningsekvivalent för att skriva ut dina matematiska problem på en svarta tavla för att visa ditt arbete.

Som en MIT pressmeddelande detaljer, AI -neurala nätverk efterliknar faktiskt den mänskliga hjärnans struktur. De består av många bearbetningsnoder som, som våra neuroner, gå samman och kombinera sin beräkningskraft för att hantera problem. I processen, de ägnar sig åt vad forskare kallar "djupinlärning, "vidarebefordran av träningsdata från nod till nod, och sedan korrelera det med vilken typ av klassificering som det neurala nätet försöker lära sig att göra. Resultaten ändras kontinuerligt för att förbättra, nästan samma sätt som människor lär sig genom prövning och fel över tid.

Det stora problemet är att även datavetare som programmerar nätverken inte riktigt kan se vad som händer med noder, vilket har gjort det svårt att reda ut hur datorer faktiskt fattar sina beslut.

"Vi försöker inte förklara de interna funktionerna i en komplex modell, "Jaakkola förklarar." Istället, vi tvingar modellen att fungera på ett sätt som gör det möjligt för en människa att enkelt verifiera om förutsägelsen gjordes på rätt grund. "

"Vår metod lär sig att generera en motivering för varje förutsägelse. En motivering är en kortfattad text, lätt för en människa att kontrollera, det ensam räcker för att göra samma förutsägelse. För att uppnå detta, vi delade den övergripande modellarkitekturen i två separerbara komponenter - generator och kodare. Generatorn väljer en motivering - till exempel en textbit - och skickar den vidare till kodaren för att göra en förutsägelse. Kombinationen lärs att fungera tillsammans som en förutsägare. "

"Således, även om vår generator och kodare själva är komplexa djupinlärningsmetoder, den kombinerade modellen tvingas göra sin förutsägelse på ett sätt som är direkt verifierbart eftersom förutsägelsen är baserad på den valda logiken, ”skriver Jaakkola.

I deras papper, forskarna hade lite kul genom att använda sitt system för att klassificera recensioner från en ölälskare webbplats, baserat på bryggeriets egenskaper som arom, smak och utseende. "Datauppsättningen för ölgranskning hade redan kommenterade meningar om specifika aspekter av produkterna så att vi direkt kunde jämföra automatiskt genererade rationaler med mänskliga val, "säger Jaakkola. I experimentet, de fann att det neurala nätet överensstämde med mänskliga kommentarer mellan 80 och 96 procent av tiden, beroende på hur specifik egenskapen var.

Ett av de klassiska sätten att demonstrera förmågan hos ett AI-neuralt nätverk är att använda det för att lösa den så kallade resande säljarens problem, och räkna ut den kortaste vägen mellan flera städer.