Föreställ dig en värld där människor samexisterade med varelser som, som oss, hade sinnen, tankar, känslor, självmedveten medvetenhet och förmågan att utföra målmedvetna handlingar – men, till skillnad från oss, dessa varelser hade konstgjorda mekaniska kroppar som kunde slås på och av.

Den modiga nya världen skulle ställa till många problem när vi kom överens med våra robotmotsvarigheter som en del av vardagen. Hur ska vi bete oss mot dem? Vilka moraliska plikter skulle vi ha? Vilka moraliska rättigheter skulle sådana icke-mänskliga personer ha? Skulle det vara moraliskt tillåtet att försöka motverka deras uppkomst? Eller skulle vi ha en skyldighet att främja och främja deras existens?

Intrigerande etiska frågor som dessa tas upp i Ian McEwans senaste roman, Maskiner som jag, där Alan Turing lever ett långt framgångsrikt liv och explosivt driver utvecklingen av artificiell intelligens (AI) som leder till skapandet av "en tillverkad människa med rimlig intelligens och utseende, trovärdiga rörelser och skiftningar av uttryck".

Som intellektuell spekulation, att överväga etiken i behandlingen av rationella, kännande maskiner är intressant. Men två vanliga argument kan tyda på att saken inte har någon praktisk relevans och att eventuella etiska frågor inte behöver tas på allvar.

Den första är att sådana konstgjorda människor omöjligt kunde existera. Den andra, som ofta tagits upp i abortdebatten, är att endast personer som har levande och självständigt livskraftiga människokroppar har rätt till moralisk respekt och är värda moralisk hänsyn. Som vi ska se, dessa argument kan diskuteras.

Sinne, materia och emergenta egenskaper

Vi kan anta att mentala fenomen – medvetande, tankar, känslor och så vidare, på något sätt skiljer sig från de saker som utgör datorer och andra maskiner tillverkade av människor. Och vi kan anta att materiella hjärnor och materiella maskiner är fundamentalt annorlunda än medvetna sinnen. Men oavsett om sådana antaganden är sanna eller inte – och jag tror att de är det – så följer det inte den kännande, medvetet medvetet, konstgjorda människor är inte möjliga.

Den franske sociologen Emile Durkheim har mycket övertygande argumenterat för att vi bör akta oss för förenklade argument inom samhällsvetenskapen. Sociala fenomen, som språk, skulle inte kunna existera utan interaktionen mellan enskilda människor med deras speciella psykologiska och biologiska egenskaper. Men därav följer inte att de resulterande sociala fenomenen - eller "emergenta egenskaper - kan förklaras fullständigt och korrekt enbart i termer av dessa egenskaper.

Samma poäng om möjligheten till emergenta egenskaper gäller för alla vetenskaper. Det kunde inte finnas, till exempel, datorer av den sorten jag nu jobbar med utan plastbitar, ledningar, kiselchips och så vidare som utgör maskinen. Fortfarande, en dators funktioner kan inte förklaras enbart i termer av egenskaperna hos dessa individuella komponenter. När dessa komponenter väl har kombinerats och interagerar på särskilda sätt med elektricitet, ett fenomen av en ny sort dyker upp:en dator. Liknande, när datorer väl kombineras och interagerar på vissa sätt, internet skapas. Men helt klart, Internet är ett annat slags fenomen än ett påtagligt, fysisk dator.

På ett liknande sätt, vi behöver inte anta att sinnen är reducerbara till hjärnor, molekyler, atomer eller andra fysiska element som krävs för att de ska fungera. De kan vara entiteter av ett annat slag som uppstår från särskilda interaktioner och kombinationer av dem.

Det finns ingen uppenbar logisk anledning till varför medveten medvetenhet av den sort som människor besitter – förmågan att tänka och fatta beslut – inte skulle kunna dyka upp i en mänsklig maskin någon dag. Om det är fysiskt möjligt och, kommer därför sannolikt att hända, är öppen för debatt.

Förtjänar maskiner vår hänsyn?

Det verkar inte kontroversiellt att säga att vi inte ska förtala döda människor eller medvetet förstöra planeten så att framtida generationer av ofödda människor inte kan njuta av den som vi har. Båda grupperna har moralisk respekt och hänsyn. De bör betraktas som potentiella föremål för våra moraliska plikter och potentiella mottagare av vår välvilja.

Men de döda och de som ska födas har inte livskraftiga kroppar av något slag – vare sig de är naturliga eller konstgjorda. Att förneka medvetna personer moralisk respekt och hänsyn på grund av att de hade konstgjorda snarare än naturliga kroppar verkar vara godtyckligt och nyckfullt. Det skulle krävas en motivering, och det är inte uppenbart vad det kan vara.

En dag, kanske tidigare än vi tror, en övervägande av etiken i behandlingen av rationella, kännande maskiner kan visa sig vara mer än en abstrakt akademisk övning.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.