Ett neuralt nätverk tränas initialt med många datamängder för att kunna särskilja tumörinnehållande från tumörfria vävnadsbilder (indata från toppen i diagrammet). Den presenteras sedan med en ny vävnadsbild från ett experiment (ingång från vänster). Via induktivt resonemang genererar det neurala nätverket klassificeringen "tumörinnehållande" eller "tumörfri" för respektive bild. Samtidigt skapar den en aktiveringskarta över vävnadsbilden. Aktiveringskartan har vuxit fram ur den induktiva inlärningsprocessen och är till en början inte relaterad till verkligheten. Korrelationen fastställs av den falsifierbara hypotesen att områden med hög aktivering exakt motsvarar tumörregionerna i provet. Denna hypotes kan testas med ytterligare experiment. Detta innebär att tillvägagångssättet följer deduktiv logik. Kredit:PRODI
Artificiell intelligens (AI) kan tränas för att känna igen om en vävnadsbild innehåller en tumör. Men exakt hur det fattar sitt beslut har förblivit ett mysterium tills nu. Ett team från Research Centre for Protein Diagnostics (PRODI) vid Ruhr-Universität Bochum utvecklar ett nytt tillvägagångssätt som kommer att göra en AI:s beslut transparent och därmed trovärdigt. Forskarna under ledning av professor Axel Mosig beskriver tillvägagångssättet i tidskriften Medical Image Analysis .
För studien samarbetade bioinformatikforskaren Axel Mosig med professor Andrea Tannapfel, chef för Institutet för patologi, onkologen professor Anke Reinacher-Schick från Ruhr-Universitätets St. Josef Hospital och biofysikern och PRODIs grundare professor Klaus Gerwert. Gruppen utvecklade ett neuralt nätverk, det vill säga en AI, som kan klassificera om ett vävnadsprov innehåller tumör eller inte. För detta ändamål matade de AI med ett stort antal mikroskopiska vävnadsbilder, av vilka några innehöll tumörer, medan andra var tumörfria.
"Neurala nätverk är initialt en svart låda:det är oklart vilka identifierande funktioner ett nätverk lär sig från träningsdata", förklarar Axel Mosig. Till skillnad från mänskliga experter saknar de förmågan att förklara sina beslut. "Men i synnerhet för medicinska tillämpningar är det viktigt att AI är kapabel att förklara och därmed pålitlig", tillägger bioinformatikforskaren David Schuhmacher, som samarbetade i studien.
AI är baserad på falsifierbara hypoteser
Bochum-teamets förklarliga AI är därför baserad på den enda typen av meningsfulla uttalanden som vetenskapen känner till:på falsifierbara hypoteser. Om en hypotes är falsk måste detta faktum kunna påvisas genom ett experiment. Artificiell intelligens följer vanligtvis principen om induktivt resonemang:med hjälp av konkreta observationer, d.v.s. träningsdata, skapar AI en generell modell på basis av vilken den utvärderar alla ytterligare observationer.
Det underliggande problemet hade beskrivits av filosofen David Hume för 250 år sedan och kan enkelt illustreras:Oavsett hur många vita svanar vi observerar, kunde vi aldrig dra slutsatsen från dessa data att alla svanar är vita och att inga svarta svanar existerar alls. Vetenskapen använder sig därför av så kallad deduktiv logik. I detta tillvägagångssätt är en generell hypotes utgångspunkten. Till exempel förfalskas hypotesen att alla svanar är vita när en svart svan upptäcks.
Det neurala nätverket härleder en aktiveringskarta (till höger) från den mikroskopiska bilden av ett vävnadsprov (till vänster). En hypotes fastställer korrelationen mellan aktiveringsintensiteten som enbart bestämdes genom beräkning och identifieringen av tumörregioner som kan verifieras i experiment. Kredit:PRODI
Aktiveringskarta visar var tumören detekteras
"Vid första anblicken verkar induktiv AI och den deduktiva vetenskapliga metoden nästan oförenliga", säger Stephanie Schörner, en fysiker som också bidragit till studien. Men forskarna hittade ett sätt. Deras nya neurala nätverk ger inte bara en klassificering av om ett vävnadsprov innehåller en tumör eller är tumörfritt, det genererar också en aktiveringskarta över den mikroskopiska vävnadsbilden.
Aktiveringskartan bygger på en falsifierbar hypotes, nämligen att aktiveringen som härrör från det neurala nätverket exakt motsvarar tumörregionerna i provet. Platsspecifika molekylära metoder kan användas för att testa denna hypotes.
"Tack vare de tvärvetenskapliga strukturerna på PRODI har vi de bästa förutsättningarna för att införliva det hypotesbaserade förhållningssättet i utvecklingen av pålitlig biomarkör AI i framtiden, till exempel för att kunna skilja på vissa terapirelevanta tumörsubtyper", avslutar Axel Mosig. + Utforska vidare
