Ett team av forskare vid University of Hartford, University of Connecticut, och Max Planck Institute for Intelligent Systems har nyligen föreslagit ett fallstöd, principbaserat beteendeparadigm för att säkerställa det etiska beteendet hos autonoma maskiner. Deras papper, publicerad i IEEE:s förfaranden , hävdar att etiskt signifikant beteende hos autonoma system bör styras av uttryckliga etiska principer, bestäms via enighet från etiker.

"I år är det 50 -årsjubileum för filmen 2001:En rymdodyssey , "Michael Anderson, en av forskarna som genomförde studien berättade för TechXplore. "Medan jag läser The Making of 2001:A Space Odyssey vid sekelskiftet, det slog mig att mycket av HALs förmåga hade förlorat sin science fiction -aura och var på väg att förverkligas. Det slog mig också att de hade fått etik så fel:Om HAL var runt hörnet, det var dags att få rätt etik. "

Anderson och hans kollegor har arbetat med att upptäcka etiska principer som kan förkroppsligas i autonomt fungerande maskiner, som en del av ett projekt som heter Machine Ethics. De anser att beteendet hos artificiell intelligens bör styras av etiska principer. Dessa principer, bestämd av enighet av etikister, bör inte bara bidra till att säkerställa det etiska beteendet hos komplexa och dynamiska system, men fungerar också som en grund för att motivera detta beteende.

Forskarna utvecklade en utvidgbar, allmänt fallbaserat och principbaserat beteendeparadigm som kallas CPB. I detta paradigm, ett autonomt system bestämmer sin nästa åtgärd med hjälp av en princip abstraherad från fall för vilka etiker har kommit överens om rätt åtgärd att vidta.

"CPB använder maskininlärning för att abstrahera en etisk princip från etiskt relevanta drag i särskilda fall av etiska dilemman, där det etiskt föredragna valet är klart, "Förklarade Anderson." Ett system kan använda den principen för att bestämma den etiskt föredragna åtgärden när som helst. "

Paradigmet representerar uttryckligen dessa principer så att de också kan hjälpa till att motivera ett autonomt systems handlingar. Med andra ord, CPB kan hjälpa till att uppnå en bättre förståelse för en robots beteende, erbjuder logiska förklaringar till varför den valde att agera på ett visst sätt.

"När vi försökte bestämma hur roboten skulle veta att den befann sig i en situation där dess etik borde sparka in, vi insåg att det alltid var i ett sådant tillstånd:etik handlar inte bara om att inte välja felaktiga handlingar, det handlar om att välja vilket av alla dess handlingar som är etiskt att föredra i den givna situationen, "Anderson." Med tanke på detta, CPB har åtagit sig att bestämma etiskt föredragna åtgärder oavsett situation, och gör det när situationen ändras. "

Det slutliga målet med studien var att fastställa etiskt relevanta funktioner och arbetsuppgifter inom äldreomsorg, identifiera principer som kan styra beteendet hos äldreomsorgsrobotar. Dock, samma paradigm kan också tillämpas på robotar som arbetar i andra domäner. I framtiden, det kan också ge etisk vägledning för andra system än robotar, som virtuella vårdpersonal.

"Vi förespråkar ett principiellt ansvarsfullt förhållningssätt till etik, där någon plikt kan åsidosätta en annan beroende på situationen, "Anderson." Med andra ord, det finns ingen strikt hierarki som det finns, säga, i Asimovs lagar. I framtiden, Vi tror att vårt system för funktion/pliktrepresentation kommer att vara användbart för att fånga kärnan i alla etiska dilemman. "

Vincent Berenz bidrag till projektet, Lekfull, nyligen publicerad i IEEE Robotics &Automation , tillåter reaktivt och avbrytbart beteende i robotar. Sådant beteende är kritiskt om roboten ska reagera ordentligt på ständigt föränderliga etiska problem.

"Vi tror att det finns en expertis som etiker får med att tänka länge på etik, "Sa Anderson." Vi säger inte att de nödvändigtvis beter sig bättre själva, att vara etisk är svårt för alla, men att de har en bättre förståelse för vad som bör göras och är bättre i stånd att försvara dessa domar än lekmän. Ett sådant noggrant tänkande som tillämpas på enkla fall kan vara till hjälp vid avgöranden av svårare fall som uppvisar samma etiskt relevanta drag. "

I framtiden, paradigmer som CPB kan säkerställa att robotar och intelligenta maskiner fattar konsekvent etiska beslut, samtidigt som människor tillåter att bättre förstå sina val. Forskarna arbetar nu med att bredda omfattningen av sitt arbete, för att ta itu med ett större antal etiska problem.

"Vi planerar att utöka vår forskning, lägga till fler handlingar och överväga mer etiskt relevanta funktioner i slutet av utvecklingen av en etisk princip som kan användas för att styra beteendet hos alla framtida äldreomsorgsrobotar, "Anderson sa." Vi kommer att testa dessa nya idéer på en PAL Robotics TIAGo -robot. "

© 2018 Science X Network