Som en del av Stanfords pågående 100-åriga studie om artificiell intelligens, känd som AI100, två workshops diskuterade nyligen frågorna om vårdteknik och prediktiv modellering för att informera om den framtida utvecklingen av AI-teknik.

"Vi ser nu en särskild betoning på humaniora och hur de interagerar med AI, sa Russ Altman, Stanford professor i teknik och fakultetschef för AI100. AI100 är ett projekt från Stanford Institute for Human-Centered Artificial Intelligence.

Efter det första mötet med AI100, gruppen planerade att samlas vart femte år för att diskutera statusen för AI-industrin. Tanken var att rapporter från dessa möten skulle fånga spänningen och farhågorna kring AI-teknik vid den tiden, göra förutsägelser för nästa århundrade och fungera som en resurs för beslutsfattare och industriintressenter som formar framtiden för AI i samhället.

Men tekniken går snabbare än väntat, och arrangörerna av AI100 ansåg att det fanns frågor att diskutera inför nästa schemalagda session. Rapporterna som resulterade från dessa workshops målar upp en bild av de potentiella fallgroparna med att outsourca våra problem för teknik att lösa snarare än att ta itu med orsakerna, eller tillåta föråldrad prediktiv modellering att förbli okontrollerad. Tillsammans, de ger en mellanliggande ögonblicksbild som kan vägleda diskussioner vid nästa fullständiga möte, sa Altman.

"Rapporterna fångar den cykliska karaktären hos allmänhetens åsikter och attityder till AI, sa Peter Stone, professor i datavetenskap vid University of Texas i Austin som fungerade som studiepanelens ordförande för den senaste rapporten, och är nu ordförande i den ständiga kommittén. "Det finns tider av hype och spänning med AI, och det finns tider av besvikelse och desillusion – vi kallar dessa AI-vintrar."

Denna longitudinella studie syftar till att kapsla in alla upp- och nedgångar – att skapa en långsiktig syn på artificiell intelligens.

Alexa bryr sig inte om dig

Även om artificiell intelligens är utbredd i sjukvårdsappar, deltagare i workshopen som diskuterade AI:s förmåga att ta hand om, drog slutsatsen att vården i sig inte är något som kan kodas i teknik. Baserat på det, de rekommenderar att ny teknik integreras i befintliga relationer mellan människa och människa.

"Vård är inte ett problem som ska lösas, det är en grundläggande del av att leva som människor, sa Fay Niker, en filosofilektor vid University of Stirling, och ordförande i Coding Caring-verkstaden. "Tanken på en teknisk fix för något som ensamhet, till exempel, är förbryllande."

Deltagarna i workshopen inramar vårdteknologier som verktyg för att komplettera mänskliga vårdrelationer som de mellan en vårdgivare och vårdmottagare. Teknik kan verkligen ge påminnelser om att ta medicin eller spåra hälsoinformation, men är begränsad i förmågan att visa empati eller ge känslomässigt stöd som inte kan kommodifieras eller reduceras till resultatorienterade uppgifter.

"Vi oroar oss för att meningsfull mänsklig interaktion kan frysas ut av teknik, " sa Niker. "Förhoppningen är att AI2020-rapporten, och annat arbete inom detta område, kommer att bidra till att förebygga denna "istid" genom att utmana och därmed förändra kulturen och debatten kring utformningen och implementeringen av vårdande teknologier i våra samhällen."

Reglering av prediktiv teknik

AI -teknik kan lära sig, men de är inte immuna mot att bli föråldrade, vilket fick deltagarna i den andra workshopen att introducera konceptet "förfallodatum" för att styra deras utplacering över tid. "De tränar på data från det förflutna för att förutsäga framtiden, " sa Altman. "Saker förändras på vilket område som helst, så du måste göra en uppdatering eller en omvärdering."

"Det betyder att vi måste vara uppmärksamma på de nya uppgifterna, "sa David Robinson, en gästforskare från Cornell's College of Computing and Information Science, och en av workshoparrangörerna. Om inte annat meddelas, Algoritmen kommer blint att anta att världen inte har förändrats, och kommer att ge resultat utan att integrera nyligen införda faktorer.

Viktiga beslut kan bero på dessa tekniker, inklusive riskbedömning i det straffrättsliga systemet och screeningar av barnskyddstjänster. Men Robinson betonade att det är nettokombinationen av algoritmresultaten och tolkningen från de som använder tekniken som resulterar i ett slutgiltigt beslut. Det bör vara lika mycket granskning av informationen som AI ger som det är på användarna som tolkar algoritmens resultat.

Båda workshoparna kom fram till att reglering behövs för AI-teknik, enligt Altman, vilket inte borde komma som någon överraskning för dem som är inställda på populärkulturella referenser inom området. Huruvida branschen kan självreglera, eller vilka andra enheter som bör övervaka framstegen på området, är fortfarande i fråga.

Deltagare och arrangörer tycker att AI100 har en roll att spela i framtiden för AI -teknik. "Jag hoppas att det verkligen hjälper till att utbilda människor och allmänheten om hur de kan och bör interagera med AI, sade Stone. Kanske ännu viktigare, resultaten från AI-rapporterna kan refereras av dessa beslutsfattare och industriinsiders, forma hur dessa tekniker utvecklas.