Läkare som fattar beslut på liv och död om organtransplantationer, cancerbehandlingar eller hjärtoperationer tänker vanligtvis inte så mycket på hur artificiell intelligens kan hjälpa dem. Och det är så forskare vid Carnegie Mellon University säger att kliniska AI-verktyg bör utformas – så att läkare inte behöver tänka på dem.

En kirurg kanske aldrig känner behov av att fråga en AI om råd, mycket mindre tillåta det att fatta ett kliniskt beslut för dem, sa John Zimmerman, Tang-familjens professor i artificiell intelligens och människa-datorinteraktion i CMU:s Human-Computer Interaction Institute (HCII). Men en AI skulle kunna vägleda beslut om den var inbäddad i de beslutsrutiner som redan används av det kliniska teamet, tillhandahålla AI-genererade förutsägelser och utvärderingar som en del av den övergripande mixen av information.

Zimmerman och hans kollegor kallar detta tillvägagångssätt "Unremarkable AI."

"Tanken är att AI ska vara omärklig i den meningen att du inte behöver tänka på det och det kommer inte i vägen, ", sa Zimmerman. "El är helt omärkligt tills du inte har det."

Qian Yang, en Ph.D. student i HCII, kommer att ta upp hur Unremarkable AI-metoden styrde utformningen av ett verktyg för kliniskt beslutsstöd (DST) vid CHI 2019, Association for Computing Machinerys konferens om mänskliga faktorer i datorsystem, 4-9 maj i Glasgow, Skottland.

Yang, tillsammans med Zimmerman och Aaron Steinfeld, docent i HCII och Robotics Institute, arbetar med biomedicinska forskare vid Cornell University och CMU:s Language Technologies Institute på en sommartid för att hjälpa läkare att utvärdera hjärtpatienter för behandling med en ventricular assist device (VAD). Denna implanterbara pump hjälper sjuka hjärtan hos patienter som inte kan få hjärttransplantationer, men många mottagare dör kort efter implantationen. DST under utveckling använder maskininlärningsmetoder för att analysera tusentals fall och beräkna en sannolikhet för om en individ kan gynnas.

DST har utvecklats för att hjälpa till att diagnostisera eller planera behandling för ett antal medicinska tillstånd och kirurgiska ingrepp, men de flesta misslyckas med att göra övergången från lab till klinisk praxis och faller ur bruk.

"De antar alla att du vet att du behöver hjälp, ", sa Zimmerman. De möter ofta motstånd från läkare, många av dem tror inte att de behöver hjälp, eller se sommartid som teknik utformad för att ersätta dem.

Yang använde Unremarkable AI-principerna för att designa hur det kliniska teamet skulle interagera med DST för VAD. Dessa team inkluderar kliniker på mellannivå, såsom sjuksköterskor, socialarbetare och VAD-samordnare, som rutinmässigt använder datorer; och kirurger och kardiologer, som värdesätter sina kollegors råd framför beräkningsstöd.

Den naturliga tiden att införliva DST:s prognostik är under multidisciplinära patientutvärderingsmöten, sa Yang. Även om läkare fattar det slutgiltiga beslutet om när eller om de ska implantera en VAD, hela teamet är ofta närvarande vid dessa möten och datorer används.

Hennes design införlivar automatiskt sommartidsprognoserna i de objektglas som förbereds för varje patient. I de flesta fallen, sommartid-informationen kommer inte att vara signifikant, Steinfeld föreslog, men för vissa patienter, eller vid vissa kritiska punkter för varje patient, Sommartid kan ge information som kräver uppmärksamhet.

Även om själva DST fortfarande är under utveckling, forskarna testade denna interaktionsdesign på tre sjukhus som utför VAD-kirurgi, med DST-förbättrade objektglas presenterade för simulerade patienter.

"Mellannivåerna - supportpersonalen - älskade det här, "Yang sa, eftersom det förbättrade deras input och hjälpte dem att bli mer aktiva i diskussionen. Läkarens reaktion var mindre entusiastisk, reflekterande skepsis mot sommartid och övertygelsen att det var omöjligt att totalt utvärdera interaktionen utan ett fullt fungerande system och riktiga patienter.

Men Yang sa att läkare inte visade samma defensivitet och känslor om att bli ersatt av teknik som vanligtvis förknippas med sommartid. De erkände också att DST kan informera deras beslut.

"Tidigare system handlade om att tala om för dig vad du skulle göra, ", sa Zimmerman. "Vi ersätter inte mänskligt omdöme. Vi försöker ge människor omänskliga förmågor."

"Och för att göra det måste vi upprätthålla den mänskliga beslutsprocessen, ", tillade Steinfeld.