Kredit:University at Buffalo
Elon Musk sa 2020 att artificiell intelligens (AI) inom fem år skulle överträffa mänsklig intelligens på väg att bli "en odödlig diktator" över mänskligheten. Men en ny bok skriven av en filosofiprofessor vid universitetet i Buffalo hävdar att det inte kommer att hända – inte 2025, aldrig någonsin.
Barry Smith, Ph.D., SUNY Distinguished Professor vid Institutionen för filosofi vid UB:s College of Arts and Sciences, och Jobst Landgrebe, Ph.D., grundare av Cognotekt, ett tyskt AI-företag, har varit medförfattare till "Why Machines Will Styr aldrig världen:artificiell intelligens utan rädsla."
Deras bok presenterar ett kraftfullt argument mot möjligheten att konstruera maskiner som kan överträffa mänsklig intelligens.
Maskininlärning och alla andra fungerande mjukvaruapplikationer – de stolta prestationerna av dem som är involverade i AI-forskning – är för Smith och Landgrebe långt ifrån något som liknar människors kapacitet. Vidare hävdar de att varje stegvis framsteg som utvecklas inom området för AI-forskning inte kommer att föra det närmare den mänskliga hjärnans fulla funktionsmöjlighet i praktiska termer.
Smith och Landgrebe erbjuder en kritisk granskning av AI:s oförsvarliga projektioner, såsom maskiner som lösgör sig från mänskligheten, replikerar sig själva och blir "fullständiga etiska agenter". Det kan inte finnas en maskinvilja, säger de. Varje enskild AI-applikation vilar på människors avsikter – inklusive avsikter att producera slumpmässiga utdata.
Detta betyder att Singularity, en punkt när AI blir okontrollerbar och oåterkallelig (som ett Skynet-ögonblick från "Terminator"-filmserien) inte kommer att inträffa. Vilda påståenden om motsatsen tjänar bara till att blåsa upp AI:s potential och förvränga allmänhetens förståelse för teknikens natur, möjligheter och gränser.
Smith och Landgrebe sträcker sig över gränserna för flera vetenskapliga discipliner och hävdar att idén om en allmän artificiell intelligens (AGI) – datorernas förmåga att efterlikna och gå utöver människors allmänna intelligens – vilar på grundläggande matematiska omöjligheter som är analoga inom fysiken till omöjligheten att bygga en evighetsmaskin. AI som skulle matcha den allmänna intelligensen hos människor är omöjligt på grund av de matematiska gränserna för vad som kan modelleras och är "beräknarbart". Dessa gränser accepteras av praktiskt taget alla som arbetar på fältet; ändå har de hittills misslyckats med att uppskatta deras konsekvenser för vad en AI kan åstadkomma.
"Att övervinna dessa barriärer skulle kräva en revolution inom matematiken som skulle vara av större betydelse än Newtons och Leibnizs uppfinning av kalkylen för mer än 350 år sedan", säger Smith, en av världens mest citerade samtida filosofer. "Vi håller inte andan."
Landgrebe påpekar att "Som kan verifieras genom att prata med matematiker och fysiker som arbetar inom gränserna för sina respektive discipliner, finns det ingenting ens vid horisonten som skulle tyda på att en revolution av detta slag en dag skulle kunna uppnås. Matematik kan inte helt och hållet modellera beteendet hos komplexa system som den mänskliga organismen", säger han.
AI har många mycket imponerande framgångshistorier, och avsevärda medel har ägnats åt att flytta fram dess gränser bortom prestationerna inom smala, väldefinierade områden som textöversättning och bildigenkänning. Mycket av investeringen för att driva tekniken framåt till områden som kräver maskinmotsvarigheten till allmän intelligens kan, säger författarna, vara pengar i sjön.
"Textgeneratorn GPT-3 har visat sig kapabel att producera olika typer av övertygande resultat inom många olika områden", säger Smith. "Tyvärr inser användarna snart att det blandas med dessa utgångar också finns pinsamma fel, så att de övertygande utgångarna i sig började framstå som inget annat än smarta salongsknep."
AI:s roll i att sekvensera det mänskliga genomet ledde till förslag på hur det kan hjälpa till att hitta botemedel mot många mänskliga sjukdomar; men efter 20 år av ytterligare forskning (där både Smith och Landgrebe har deltagit) har lite producerats för att stödja optimism av detta slag.
"I vissa helt regelbestämda begränsade inställningar kan maskininlärning användas för att skapa algoritmer som överträffar människor", säger Smith. "Men detta betyder inte att de kan 'upptäcka' reglerna för vilken aktivitet som helst som äger rum i en öppen miljö, vilket är vad den mänskliga hjärnan uppnår varje dag."
Teknikskeptiker har naturligtvis inte ett perfekt rekord. De har haft fel när det gäller genombrott från rymdflyg till nanoteknik. Men Smith och Landgrebe säger att deras argument är baserade på de matematiska implikationerna av teorin om komplexa system. Av matematiska skäl kan AI inte efterlikna hur den mänskliga hjärnan fungerar. Faktum är att författarna säger att det är omöjligt att konstruera en maskin som skulle konkurrera med en kråkas kognitiva prestanda.
"En AGI är omöjlig", säger Smith. "Som vår bok visar kan det inte finnas någon allmän artificiell intelligens eftersom den ligger bortom gränsen för vad som ens i princip kan uppnås med hjälp av en maskin." + Utforska vidare
