Ett nytt bevis av SFI-professor David Wolpert skickar ett ödmjukt budskap till blivande superintelligenser:du kan inte veta allt hela tiden.

Beviset börjar med att matematiskt formalisera sättet en "slutsatsanordning, "säg, en forskare beväpnad med en superdator, fantastisk experimentell utrustning, etc., kan ha kunskap om universums tillstånd runt dem. Oavsett om den vetenskapsmannens kunskap förvärvas genom att observera deras universum, kontrollera det, förutsäga vad som kommer att hända härnäst, eller dra slutsatsen om vad som hände tidigare, det finns en matematisk struktur som begränsar den kunskapen. Nyckeln är att slutsatsenheten, deras kunskap, och den fysiska variabeln som de (kan) veta något om, är alla delsystem i samma universum. Den kopplingen begränsar vad enheten kan veta. Särskilt, Wolpert bevisar att det alltid finns något som slutsatsenheten inte kan förutsäga, och något som de inte kommer ihåg, och något som de inte kan observera.

"På vissa sätt kan denna formalism ses som många olika förlängningar av [Donald MacKays] uttalande att" en förutsägelse om berättarens framtid inte kan redogöra för effekten av berättarens inlärning av denna förutsägelse, '"Förklarar Wolpert." Den enklaste förlängningen är kanske att, när vi formaliserar [inferensanordningar] matematiskt, vi märker att samma omöjliga resultat som gäller för förutsägelser om framtiden - MacKays oro - också gäller för minnen från det förflutna. Tiden är en godtycklig variabel - den spelar ingen roll när det gäller olika tillstånd i universum. "

Alla kan inte ha rätt

Vad händer om vi inte kräver att en slutsatsenhet vet allt om sitt universum, men bara att den vet det mesta som kan vara känt? Wolperts matematiska ramverk visar att inga två slutsatser som båda har fri vilja (korrekt definierad) och har maximal kunskap om universum kan samexistera i det universum. Det kan (eller inte) finnas en sådan "superinferensanordning" i något givet universum - men inte mer än en. Wolpert hänvisar skämtsamt till detta resultat som "monoteismens sats, "eftersom det inte förbjuder att det finns en gudom i vårt universum, det förbjuder att det finns fler än en.

Som ett exempel, anta att Bob och Alice båda är forskare med obegränsad beräkningsförmåga. Dessutom, anta att de båda har "fri vilja, "genom att frågan Bob ställer sig inte begränsar de möjliga frågor Alice kan ställa sig själv, och vice versa. (Detta visar sig vara avgörande.) Då är det omöjligt för Bob att förutsäga (eller retrodict) vad Alice tycker vid en annan tidpunkt om Alice också blir ombedd att förutsäga vad Bob inte tänker vid den tiden.

Wolpert jämför detta förslag med den kretensiska lögnarens paradox, där Epimenides av Knossos, en kretensisk, berömt sagt "alla kretensare är lögnare." Till skillnad från Epimenides uttalande dock som avslöjar problemet med system som har förmåga till självreferens, Wolperts resonemang gäller också slutsatser utan den förmågan.

Dessutom, i Wolperts formalism, samma vetenskapsman, betraktas vid två olika tidpunkter i tiden, är två olika slutsatser. Så även om det kan vara så att någon slutsatsenhet är en "superinferensanordning" vid ett tillfälle, de kunde inte vara så mer än en gång. Återigen tungan i kinden, han hänvisar till detta som "deism" -satsen, eftersom det tillåter att det finns en gudom som vet det mesta som kunde vara känt i början av universum - men förbjuder att de någonsin är så kunniga igen.

Eftersom den inte förlitar sig på specifika teorier om fysisk verklighet som kvantmekanik eller relativitet, det nya beviset ger en bred uppsättning gränser för att utforska naturvetenskaplig kunskap.

"Inga av dessa resultat som begränsar kunskap som förvärvats genom förutsägelse bygger på att det finns kaotiska processer i universum ... det spelar ingen roll vad fysikens lagar är eller om Alice är mer beräkningsmässigt kraftfull än en Turing -maskin, "säger Wolpert." Allt detta är oberoende av det och det är mycket bredare. "

Denna forskning går i många olika riktningar, allt från epistemisk logik till en teori om Turing -maskiner. Särskilt, Wolpert och hans kollegor skapar en mer nyanserad, sannolikhetsram som gör att de inte bara kan utforska gränserna för absolut korrekt kunskap, men också vad som händer när slutsatsenheterna inte behöver veta med 100% noggrannhet.

"Tänk om Epimenides hade sagt" sannolikheten för att en kretensisk är en lögnare är större än x procent? " Enligt Wolpert, "Vi får väldigt spännande resultat."