Kredit:Phonlamai Photo/Shutterstock
, Ska vi vara rädda för artificiell intelligens? För mig, det här är en enkel fråga med en ännu enklare, två bokstäver svar:nej. Men alla håller inte med – många människor, inklusive den bortgångne fysikern Stephen Hawking, har väckt oro för att uppkomsten av kraftfulla AI-system kan innebära slutet för mänskligheten.
Klart, din syn på om AI kommer att ta över världen kommer att bero på om du tror att den kan utveckla intelligent beteende som överträffar människors – något som kallas "superintelligens". Så låt oss ta en titt på hur troligt detta är, och varför det finns mycket oro för framtiden för AI.
Människor tenderar att vara rädda för det de inte förstår. Rädsla får ofta skulden för rasism, homofobi och andra källor till diskriminering. Så det är inte konstigt att det också gäller nya teknologier – de är ofta omgivna av ett visst mysterium. Vissa tekniska landvinningar verkar nästan orealistiska, klart överträffade förväntningarna och i vissa fall mänsklig prestation.
Inget spöke i maskinen
Men låt oss avmystifiera de mest populära AI-teknikerna, känd kollektivt som "maskininlärning". Dessa tillåter en maskin att lära sig en uppgift utan att vara programmerad med tydliga instruktioner. Det här kan låta läskigt, men sanningen är att allt beror på lite vardaglig statistik.
Maskinen, som är ett program, eller snarare en algoritm, är utformad med förmågan att upptäcka samband inom tillhandahållen data. Det finns många olika metoder som gör att vi kan uppnå detta. Till exempel, vi kan presentera för maskinen bilder av handskrivna bokstäver (a-z), en och en, och be den berätta vilken bokstav vi visar varje gång i följd. Vi har redan gett de möjliga svaren – det kan bara vara ett av (a-z). Maskinen i början säger en bokstav slumpmässigt och vi korrigerar den, genom att ge rätt svar. Vi har också programmerat maskinen att konfigurera om sig själv så att nästa gång, om samma brev presenteras, det är mer sannolikt att vi ger oss rätt svar för nästa. Som en konsekvens, maskinen förbättrar med tiden sin prestanda och "lär sig" att känna igen alfabetet.
I huvudsak, vi har programmerat maskinen att utnyttja gemensamma relationer i data för att uppnå den specifika uppgiften. Till exempel, alla versioner av "a" ser strukturellt lika ut, men annorlunda mot "b", och algoritmen kan utnyttja detta. Intressant, efter träningsfasen, maskinen kan tillämpa den erhållna kunskapen på nya brevprover, till exempel skriven av en person vars handstil maskinen aldrig har sett förut.
Människor, dock, är bra på att läsa. Ett kanske mer intressant exempel är Google Deepminds artificiella Go-spelare, som har överträffat alla mänskliga spelare i deras prestation av spelet. Den lär sig helt klart på ett annat sätt än människor – spelar ett antal spel med sig själv som ingen människa skulle kunna spela under sin livstid. Den har specifikt instruerats att vinna och berättat att de åtgärder den vidtar avgör om den vinner eller inte. Det har också fått höra spelreglerna. Genom att spela spelet om och om igen kan det i varje situation upptäcka vad som är den bästa handlingen – att hitta på drag som ingen människa har spelat tidigare.
Småbarn kontra robotar
Gör det nu AI Go-spelaren smartare än en människa? Absolut inte. AI är mycket specialiserad för vissa typer av uppgifter och den visar inte den mångsidighet som människor gör. Människor utvecklar en förståelse för världen över år som ingen AI har uppnått eller verkar sannolikt att uppnå när som helst snart.
Att AI kallas "intelligent" beror i slutändan på att den kan lära sig. Men även när det kommer till lärande, det är ingen match för människor. Faktiskt, småbarn kan lära sig genom att bara se någon lösa ett problem en gång. En AI, å andra sidan, behöver massor av data och massor av försök för att lyckas. Men medan människor utvecklar hisnande intelligens snabbt under de första åren av livet, nyckelbegreppen bakom maskininlärning skiljer sig inte så mycket från vad de var för ett eller två decennier sedan.
Framgången för modern AI beror mindre på ett genombrott inom nya tekniker och mer på den stora mängden data och beräkningskraft som finns tillgänglig. Viktigt, fastän, inte ens en oändlig mängd data kommer att ge AI mänsklig intelligens – vi måste först göra betydande framsteg när det gäller att utveckla artificiella "allmän intelligens"-tekniker. Vissa metoder för att göra detta involverar att bygga en datormodell av den mänskliga hjärnan – vilket vi inte ens är i närheten av att uppnå.
I sista hand, bara för att en AI kan lära sig, det följer egentligen inte att det plötsligt kommer att lära sig alla aspekter av mänsklig intelligens och överlista oss. Det finns ingen enkel definition av vad mänsklig intelligens ens är och vi har verkligen ingen aning om hur exakt den representeras i hjärnan. Men även om vi kunde reda ut det och sedan skapa en AI som kunde lära sig att bli mer intelligent, det betyder inte nödvändigtvis att det skulle bli mer framgångsrikt.
Personligen, Jag är mer oroad över hur människor använder AI. Maskininlärningsalgoritmer betraktas ofta som svarta lådor, och mindre ansträngning görs för att fastställa detaljerna för den lösning som våra algoritmer har hittat. Detta är en viktig och ofta försummad aspekt eftersom vi ofta är besatta av prestation och mindre av förståelse. Att förstå lösningarna som dessa system har upptäckt är viktigt, eftersom vi också kan utvärdera om de är korrekta eller önskvärda lösningar.
Om, till exempel, vi tränar vårt system på ett felaktigt sätt, vi kan också sluta med en maskin som har lärt sig relationer som inte håller i allmänhet. Säg till exempel att vi vill designa en maskin för att utvärdera förmågan hos potentiella studenter inom ingenjörsvetenskap. Förmodligen en hemsk idé, men låt oss följa det för att skaka av argumentet. Traditionellt, detta är en mansdominerad disciplin, vilket innebär att träningsprov sannolikt kommer från tidigare manliga elever. Om vi inte ser till, till exempel, att träningsdata är balanserade, maskinen kan sluta med slutsatsen att ingenjörsstudenter är män, och felaktigt tillämpa det på framtida beslut.
Machine learning and artificial intelligence are tools. They can be used in a right or a wrong way, like everything else. It is the way that they are used that should concerns us, not the methods themselves. Human greed and human unintelligence scare me far more than artificial intelligence.
Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.