Stephen Hawking både varnade för och hade nytta av artificiell intelligens. Kredit:Hoo-Me.com/MediaPunch/IPX/AP
Avlidne Stephen Hawking var en stor röst i debatten om hur mänskligheten kan dra nytta av artificiell intelligens. Hawking gjorde ingen hemlighet av sin rädsla för att tänkande maskiner en dag kunde ta kontroll. Han gick så långt som att förutsäga att framtida utveckling inom AI "kan stava slutet på mänskligheten."
Men Hawkings förhållande till AI var mycket mer komplext än detta ofta citerade ljudbett. De djupa bekymmer han uttryckte handlade om övermänsklig AI, den punkt där AI -system inte bara replikerar processer för mänsklig intelligens, men fortsätt också att expandera dem, utan vårt stöd - en scen som i bästa fall är decennier borta, om det någonsin händer. Och ändå har Hawking mycket förmåga att kommunicera dessa rädslor, och alla hans andra idéer, blev beroende av grundläggande AI -teknik.
Hawkings konfliktförhållande med AI
På centren för immaterialrätt och hälsorätt vid DePaul University, mina kollegor och jag studerar effekterna av framväxande teknik som de som Stephen Hawking oroade sig för. I grunden, begreppet AI innefattar beräkningsteknik som är utformad för att få maskiner att fungera med framsynthet som efterliknar, och till slut överträffar, mänskliga tankeprocesser.
Hawking varnade för en extrem form av AI, där tänkande maskiner skulle "lyfta" på egen hand, modifiera sig själva och självständigt designa och bygga allt mer kapabla system. Människor, bunden av den långsamma biologiska utvecklingen, skulle vara tragiskt överlistad.
AI som ett hot mot mänskligheten?
Väl innan det kommer till övermänsklig teknik, AI kan utnyttjas fruktansvärt. Redan, forskare och kommentatorer oroar sig för att självflygande drönare kan vara föregångare till dödliga autonoma robotar.
Dagens tidiga stadium AI väcker flera andra etiska och praktiska problem, för. AI -system är till stor del baserade på ogenomskinliga algoritmer som fattar beslut som även deras egna designers kanske inte kan förklara. De underliggande matematiska modellerna kan vara partiska, och beräkningsfel kan uppstå. AI kan gradvis förskjuta mänskliga färdigheter och öka arbetslösheten. Och begränsad tillgång till AI kan öka den globala ojämlikheten.
Hundraåriga studien om artificiell intelligens, lanserades av Stanford University 2014, betonade några av dessa problem. Men hittills har det inte identifierat några bevis för att AI kommer att utgöra något "överhängande hot" för mänskligheten, som Hawking fruktade.
Fortfarande, Hawkings åsikter om AI är något mindre alarmistiska och mer nyanserade än han brukar få kredit för. I deras hjärta, de beskriver behovet av att förstå och reglera framväxande teknik. Han efterlyste upprepade gånger mer forskning om fördelarna och farorna med AI. Och han trodde att även icke-övermänskliga AI-system kan hjälpa till att utrota krig, fattigdom och sjukdom.
Hawking pratar
Denna uppenbara motsägelse - en rädsla för att mänskligheten så småningom kommer att överköras av AI men optimism om dess fördelar under tiden - kan ha kommit från hans eget liv:Hawking hade kommit att förlita sig på AI för att interagera med världen.
Kan inte tala sedan 1985, han använde en rad olika kommunikationssystem som hjälpte honom att prata och skriva, som kulminerade i den nu legendariska datorn som drivs av en muskel i höger kind.
Den första iterationen av datorprogrammet var förargligt långsam och utsatt för fel. Mycket grundläggande AI förändrade det. Ett program med öppen källkod gjorde hans ordval betydligt snabbare. Mer viktigt, den använde artificiell intelligens för att analysera Hawkings egna ord, och använde sedan den informationen för att hjälpa honom att uttrycka nya idéer. Genom att bearbeta Hawkings böcker, artiklar och föreläsningsmanus, systemet blev så bra att han inte ens behövde skriva det begrepp folk mest förknippar med honom, "svarta hålet." När han valde ", "" svart "skulle automatiskt föreslås följa den, och "svart" skulle leda till "hål" på skärmen.
AI förbättrar människors hälsa
Stephen Hawkings erfarenhet av en sådan grundläggande form av AI illustrerar hur icke-övermänsklig AI verkligen kan förändra människors liv till det bättre. Talprognoser hjälpte honom att hantera en förödande neurologisk sjukdom. Andra AI-baserade system hjälper redan till att förhindra, bekämpa och minska sjukdomsbördan.
Till exempel, AI kan analysera medicinska sensorer och andra hälsodata för att förutsäga hur sannolikt en patient är att utveckla en allvarlig blodinfektion. I studier var det väsentligt mer exakt - och gav mycket mer förvarning - än andra metoder.
En annan grupp forskare skapade ett AI -program för att se igenom elektroniska hälsojournaler på 700, 000 patienter. Programmet, kallad "Deep Patient, "upptäckta kopplingar som inte varit uppenbara för läkare, identifiera nya riskmönster för vissa cancerformer, diabetes och psykiatriska störningar.
AI har till och med drivit ett robotkirurgiskt system som överträffade mänskliga kirurger i ett ingrepp på grisar som liknar en typ av operation på mänskliga patienter.
Det finns så mycket löfte för AI att förbättra människors hälsa att insamling av medicinsk data har blivit en hörnsten i både mjukvaruutveckling och folkhälsopolitik i USA. Obama Vita huset inledde ett forskningsarbete för att samla in DNA från minst en miljon amerikaner. Uppgifterna kommer att göras tillgängliga för AI -system att analysera när de studerar nya medicinska behandlingar, möjligen förbättrar både diagnoser och patienters återhämtning.
Alla dessa fördelar med AI är tillgängliga just nu, och fler är på gång. De föreslår att övermänskliga AI -system kan vara extremt kraftfulla, men trots varningar från Hawking och den andra teknikvisionären Elon Musk kan den dagen aldrig komma. Sålänge, som Hawking visste, det finns mycket att vinna. AI gav honom en bättre och effektivare röst än hans kropp kunde ge, med vilken han efterlyste både forskning och återhållsamhet.
Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.