Kommer artificiell intelligens en dag att överträffa mänskligt tänkande? Den snabba utvecklingen av AI, tillsammans med vår vanliga rädsla för maskiner, har väckt oro för att dess förmågor en dag kommer att börja växa okontrollerat, så småningom leder det till att ta över världen och utplåna mänskligheten om det beslutar att vi är ett hinder för dess mål. Detta ögonblick brukar kallas "AI-singulariteten".

Ett argument mot möjligheten av en sådan högsta, ostoppbar och oändligt växande intelligens är att den skulle behöva, per definition, för att exakt kunna förutsäga framtiden. Och kvantteorin, ett av modern vetenskaps nyckelsätt att förklara universum, säger att det kanske inte är möjligt att förutsäga framtiden eftersom universum är slumpmässigt. Men vad händer om vi bara tror att förutsäga framtiden är omöjligt eftersom vi inte är intelligenta nog att veta något annat?

Intelligens är ett mycket komplext och abstrakt begrepp utan en överenskommen definition. Dock, det råder gemensam överenskommelse om några av komponenterna som utgör alla slags känd intelligens. En av dessa är förmågan att lösa problem, vilket kräver förmåga att planera genom att förutse framtiden. Att lösa ett problem, det är avgörande att förstå de nuvarande förhållandena, förutsäga hur miljön kommer att utvecklas, och att förutse resultatet av de åtgärder som kommer att vidtas.

Slumpmässigt universum

Nya teorier inom fysik tyder på att universum är extremt kaotiskt och slumpmässigt. Ta exemplet med instabila kemiska grundämnen som så småningom genomgår radioaktivt sönderfall till ett annat ämne. Du kan uppskatta hur lång tid det kommer att ta en viss mängd av detta grundämne att sönderfalla men du kan inte säkert säga när någon enskild atom av det kommer att göra det. Liknande, du kan mäta positionen eller rörelsemängden för en partikel men, av vissa skäl relaterade till kvantteorin, du kan inte veta båda samtidigt med fullständig noggrannhet. (Detta är känt som Heisenbergs osäkerhetsprincip.)

Förutsatt att dessa teorier är korrekta, de föreslår att bortom en viss detaljnivå, universum är i slutändan oförutsägbart, kaotiskt och instabilt. Detta skulle innebära att varje form av växande intelligens så småningom skulle nå en punkt där den inte längre kan förbättra sina förutsägelser om framtiden och därför inte kan öka i intelligens ytterligare. Med andra ord, det finns ingen risk för en skenande AI, eftersom universums fysiska lagar ställer några mycket begränsande hårda gränser. Till exempel, med tanke på de kända gränserna för väderförutsägbarhet, ett AI-system kommer inte att kunna överlista människor genom att utnyttja extremt exakta långsiktiga väderprognoser för att planera framtida åtgärder.

Det är mycket tröstande att tro att universums natur är, på något vis, förhindrar en AI-eskalering. Men det finns ett alternativt perspektiv. Tänk om människor uppfattar universum som slumpmässigt och kaotiskt bara för att våra kognitiva och resonerande möjligheter är för begränsade? Vi är medvetna om några av gränserna för mänsklig förståelse men, för att parafrasera Donald Rumsfeld, vi vet inte vad vi inte vet.

Med detta perspektiv, det kan vara så att universum istället är deterministiskt, och därför fullt förutsägbar, men på ett extremt komplext sätt som vi som människor inte kan greppa. Albert Einstein hävdade att kvantteorin var en ofullständig beskrivning av universum och att det måste finnas dolda variabler som vi ännu inte förstår men som håller nyckeln till att bestämma framtida händelser.

Det skulle vända frågan om möjligheten till en AI-singularitet. En superavancerad intelligens kan vara i stånd att avslöja dessa dolda variabler och så förstå universums förutsägbara natur, frigöra maskinens fulla potential. Det är värt att notera att AI-metoder redan används för att automatiskt göra upptäckter inom fysiken.

På ett praktiskt plan, singulariteten verkar inte så rimlig med tanke på hur begränsad AI faktiskt fortfarande är. De senaste genombrotten inom AI har uppnåtts via vad som kallas smal AI, utformad för att utföra en väldefinierad uppgift som att spela schack eller köra bil. Även om smal AI kan överträffa människor i vissa uppgifter, det finns lite som tyder på att mer allmän AI som kan efterlikna människors förmåga att svara på många olika uppgifter kommer att levereras och utsätta människor för risker inom en snar framtid.

Men vi kan inte utesluta det helt. Eftersom vi fortfarande har begränsad kunskap om universums natur, och kraften hos AI, kanske är det bättre att spela säkert. Även utan en singularitet, AI kommer att ha en dramatisk inverkan på det mänskliga samhället. Vi måste arbeta så hårt som möjligt för att säkerställa att AI är fördelaktigt för mänskligheten, inte ett hot mot det.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.