Sunt förnuft inkluderar en intuitiv förståelse av grundläggande fysik - något datorer saknar. Andriy Onufriyenko/Getty Images Tänk dig att du har vänner till lunch och planerar att beställa en pepperoni -pizza. Du minns att Amy nämnde att Susie hade slutat äta kött. Försök ringa Susie, men när hon inte tar upp, du bestämmer dig för att spela säkert och bara beställer en margherita -pizza istället.
Människor tar för givet förmågan att regelbundet hantera situationer som dessa. I verkligheten, för att uppnå dessa bedrifter, människor förlitar sig inte bara på en kraftfull uppsättning universella förmågor som kallas sunt förnuft.
Som forskare inom artificiell intelligens, mitt arbete är en del av en bred strävan att ge datorer ett sken av sunt förnuft. Det är en extremt utmanande insats.
Trots att de är både universella och viktiga för hur människor förstår världen och lär sig, sunt förnuft har trotsat en enda exakt definition. G. K. Chesterton, en engelsk filosof och teolog, skrev berömt i början av 1900 -talet att "sunt förnuft är en vild sak, vilde, och bortom regler. "Moderna definitioner idag håller med om att, minst det är naturligt, snarare än formellt undervisad, mänsklig förmåga som gör att människor kan navigera i vardagen.
Sunt förnuft är ovanligt brett och inkluderar inte bara sociala förmågor, som att hantera förväntningar och resonera om andras känslor, men också en naiv känsla för fysik, som att veta att en tung sten inte säkert kan placeras på ett tunt plastbord. Naiv, för att människor kan sådana saker trots att de inte medvetet arbetar med fysikekvationer.
Sunt förnuft inkluderar också bakgrundskunskap om abstrakta föreställningar, som tid, utrymme och evenemang. Denna kunskap gör att människor kan planera, uppskatta och organisera utan att behöva vara för exakt.
Intressant nog, sunt förnuft har varit en viktig utmaning vid AI:s gräns sedan de tidigaste dagarna av fältet på 1950 -talet. Trots enorma framsteg inom AI, särskilt när det gäller spel och datorsyn, maskin sunt förnuft med rikedom av mänskligt sunt förnuft förblir en avlägsen möjlighet. Det kan vara därför AI -insatser är utformade för komplexa, verkliga problem med många sammanflätade delar, som att diagnostisera och rekommendera behandlingar för COVID-19-patienter, faller ibland platt.
Modern AI är utformad för att hantera mycket specifika problem, i motsats till sunt förnuft, som är vagt och inte kan definieras av en uppsättning regler. Även de senaste modellerna gör ibland absurda fel, tyder på att något grundläggande saknas i AI:s världsmodell. Till exempel, med följande text:
"Du hällde dig ett glas tranbär, men då frånvetet, du hällde ungefär en tesked druvsaft i den. Det ser OK ut. Du försöker nosa på det, men du är förkyld så du kan inte lukta någonting. Du är väldigt törstig. Så du"
den mycket berömda AI-textgeneratorn GPT-3 levereras
"drick det. Du är nu död."
De senaste ambitiösa insatserna har erkänt maskinens sunt förnuft som ett månskott AI -problem i vår tid, en som kräver samordnat samarbete mellan institutioner under många år. Ett anmärkningsvärt exempel är det fyraåriga Machine Common Sense-programmet som lanserades 2019 av U.S. Defence Advanced Research Projects Agency för att påskynda forskningen inom området efter att byrån publicerat ett papper som beskriver problemet och forskningens tillstånd på området.
Programmet Machine Common Sense finansierar många pågående forskningsinsatser i maskinellt sunt förnuft, inklusive vår egen, Multimodal Open World Grounded Learning and Inference (MOWGLI). MOWGLI är ett samarbete mellan vår forskargrupp vid University of Southern California och AI -forskare från Massachusetts Institute of Technology, University of California at Irvine, Stanford University och Rensselaer Polytechnic Institute. Projektet syftar till att bygga ett datorsystem som kan svara på en mängd olika vanliga frågor.
En anledning till att vara optimistisk om att äntligen spricka maskinens sunt förnuft är den senaste utvecklingen av en typ av avancerad djupinlärning AI som kallas transformatorer. Transformatorer kan modellera naturligt språk på ett kraftfullt sätt och, med några justeringar, kan svara på enkla vanliga frågor. Commonsense-svar är ett viktigt första steg för att bygga chatbots som kan prata på ett mänskligt sätt.
Under de senaste åren, en stor mängd forskning har publicerats om transformatorer, med direkta ansökningar om gemensamt resonemang. Denna snabba utveckling som gemenskap har tvingat forskare inom området att ställas inför två relaterade frågor vid kanten av vetenskap och filosofi:Vad är sunt förnuft? Och hur kan vi vara säkra på att en AI har sunt förnuft eller inte?
För att svara på den första frågan, forskare delar upp sunt förnuft i olika kategorier, inklusive vanliga sociologi, psykologi och bakgrundskunskap. Författarna till en ny bok hävdar att forskare kan gå mycket längre genom att dela upp dessa kategorier i 48 finkorniga områden, som planering, hotdetektering och känslor.
Dock, det är inte alltid klart hur rent dessa områden kan separeras. I vår senaste tidning, experiment tyder på att ett tydligt svar på den första frågan kan vara problematiskt. Även experter på mänskliga kommentarer - människor som analyserar text och kategoriserar dess komponenter - inom vår grupp var oense om vilka aspekter av sunt förnuft som gällde en specifik mening. Annotatörerna enades om relativt konkreta kategorier som tid och rum men var oense om mer abstrakta begrepp.
Även om du accepterar att viss överlappning och oklarhet i teorier om sunt förnuft är oundviklig, kan forskare någonsin verkligen vara säkra på att en AI har sunt förnuft? Vi ställer ofta maskiner för att utvärdera deras sunt förnuft, men människor navigerar i vardagen på mycket mer intressanta sätt. Människor använder en rad olika färdigheter, finslipad av evolutionen, inklusive förmågan att känna igen grundläggande orsak och verkan, kreativ problemlösning, uppskattningar, planering och viktiga sociala färdigheter, som samtal och förhandlingar. Så lång och ofullständig som den här listan kan vara, en AI bör uppnå inte mindre innan dess skapare kan förklara seger i maskinförnuftsforskning.
Det blir redan plågsamt klart att även forskning inom transformatorer ger minskande avkastning. Transformatorer blir större och mer makt hungriga. En ny transformator utvecklad av den kinesiska sökmotorjätten Baidu har flera miljarder parametrar. Det krävs en enorm mängd data för att effektivt träna. Än, det har hittills inte visat sig kunna förstå nyanserna i människans sunt förnuft.
Även djupinlärningspionjärer verkar tro att ny grundforskning kan behövas innan dagens neurala nätverk kan göra ett sådant steg. Beroende på hur framgångsrik denna nya forskning är, det finns inget att säga om maskinens sunt förnuft är fem år bort, eller 50.
Mayank Kejriwal är forskningsassistent professor i industri- och systemteknik vid University of Southern California.
Den här artikeln är publicerad igen från Konversationen under en Creative Commons -licens. Du kan hitta originalartikel här.
