Människor är inte de enda människorna i samhället – åtminstone enligt lagen. I USA., företag har fått yttrandefrihet och religionsfrihet. Vissa naturliga drag har också personliknande rättigheter. Men båda dessa krävde ändringar i rättssystemet. Ett nytt argument har lagt en väg för system för artificiell intelligens att erkännas som människor också – utan någon lagstiftning, domstolsbeslut eller andra ändringar av gällande lag.

Rättsforskaren Shawn Bayer har visat att vem som helst kan ge juridisk person till ett datorsystem, genom att ge det kontroll över ett aktiebolag i USA. Om den manövern upprätthålls i domstolar, artificiell intelligens skulle kunna äga egendom, stämma, anlita advokater och åtnjuta yttrandefrihet och andra skydd enligt lagen. Från min synvinkel, mänskliga rättigheter och värdighet skulle drabbas av detta.

Företagskryphålet

Att ge AI:s rättigheter som liknar människor innebär en teknisk advokatmanöver. Det börjar med att en person startar två aktiebolag och överför kontrollen av varje företag till ett separat autonomt eller artificiellt intelligent system. Sedan skulle personen lägga till varje företag som medlem i den andra LLC. I det sista steget, personen skulle dra sig ur båda LLC, lämnar varje LLC – en företagsenhet med juridisk person – endast styrd av den andras AI-system.

Den processen kräver inte att datorsystemet har någon speciell nivå av intelligens eller förmåga. Det kan bara vara en sekvens av "om"-påståenden som tittar, till exempel, på börsen och fatta beslut om att köpa och sälja baserat på att priserna faller eller stiger. Det kan till och med vara en algoritm som fattar beslut slumpmässigt, eller en emulering av en amöba.

Minska mänsklig status

Att ge mänskliga rättigheter till en dator skulle försämra den mänskliga värdigheten. Till exempel, när Saudiarabien beviljade medborgarskap till en robot som heter Sophia, mänskliga kvinnor, inklusive feministiska forskare, invände, noterar att roboten fick fler rättigheter än många saudiska kvinnor har.

På vissa ställen, vissa människor kan ha färre rättigheter än icke-intelligent programvara och robotar. I länder som begränsar medborgarnas rätt till yttrandefrihet, fri religionsutövning och uttryck för sexualitet, företag – potentiellt inklusive AI-drivna företag – skulle kunna ha fler rättigheter. Det skulle vara en enorm indignitet.

Risken slutar inte där:om AI-system blev intelligentare än människor, människor kan förvisas till en underlägsen roll – som arbetare som anställs och avskedas av AI-företagsöverherrar – eller till och med utmanas för social dominans.

System för artificiell intelligens skulle kunna ha till uppgift att upprätthålla brottsbekämpning bland mänskliga befolkningar – agera som domare, jurymedlemmar, fångvaktare och till och med bödlar. Krigarrobotar skulle på liknande sätt kunna tilldelas militären och ges makt att besluta om mål och acceptabla sidoskador – även i strid med internationella humanitära lagar. De flesta rättssystem är inte inrättade för att straffa robotar eller på annat sätt hålla dem ansvariga för fel.

Hur är det med att rösta?

Att ge rösträtt till system som kan kopiera sig själva skulle göra människors röster meningslösa. Även utan att ta det betydande steget, fastän, möjligheten för AI-kontrollerade företag med grundläggande mänskliga rättigheter utgör allvarliga faror. Inga nuvarande lagar skulle hindra en illvillig AI från att driva ett företag som arbetade för att underkuva eller utrota mänskligheten genom lagliga medel och politiskt inflytande. Datorstyrda företag kan visa sig vara mindre lyhörda för den allmänna opinionen eller protester än mänskligt styrda företag är.

Odödlig rikedom

Två andra aspekter av företag gör människor ännu mer sårbara för AI-system med mänskliga juridiska rättigheter:De dör inte, och de kan ge obegränsade summor pengar till politiska kandidater och grupper.

Artificiell intelligens kan tjäna pengar på att utnyttja arbetare, använda algoritmer för att prissätta varor och hantera investeringar, och hitta nya sätt att automatisera viktiga affärsprocesser. Under långa tidsperioder, som skulle kunna ge enorma inkomster – som aldrig skulle delas upp mellan ättlingar. Den rikedomen kunde lätt omvandlas till politisk makt.

Politiker som stöds ekonomiskt av algoritmiska enheter skulle kunna ta sig an lagstiftande organ, åtala presidenter och hjälpa till att få galjonsfigurer utsedda till Högsta domstolen. Dessa mänskliga galjonsfigurer skulle kunna användas för att utöka företagens rättigheter eller till och med etablera nya rättigheter som är specifika för artificiell intelligens - vilket utökar hoten mot mänskligheten ännu mer.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.