Artificiell intelligens (AI) översätter dokument, föreslår behandlingar för patienter, fattar köpbeslut och optimerar arbetsflöden. Men var är dess moraliska kompass? En studie från Center for Cognitive Science vid TU Darmstadt visar att AI -maskiner verkligen kan lära sig en moralisk kompass av människor. Resultaten av studien har presenterats vid årets ACM/AAAI -konferens om AI, Etik, och samhället (AIES).

AI har en allt större inverkan på vårt samhälle. Från självkörande bilar på allmänna vägar, till självoptimering av industriella produktionssystem, till sjukvården - AI -maskiner hanterar alltmer komplexa mänskliga uppgifter på allt mer autonoma sätt. Och i framtiden, autonoma maskiner kommer att dyka upp på fler och fler områden i vårt dagliga liv. Oundvikligen, de kommer att ställas inför svåra beslut. En autonom robot måste veta att den inte ska döda människor, men att det är okej att döda tiden. Roboten behöver veta att den hellre ska skåla en skiva bröd än en hamster. Med andra ord:AI behöver en mänsklig moralisk kompass. Men kan AI verkligen lära sig en sådan kompass av människor?

Forskare från Princeton (USA) och Bath (Storbritannien) hade påpekat ( Vetenskap , 2017) faran att AI, när den appliceras utan omsorg, kan lära sig ordassociationer från skrivna texter och att dessa associationer speglar dem som människor har lärt sig. Till exempel, AI tolkade manliga namn som är vanligare i det afroamerikanska samhället som ganska obehagliga och namn som föredras av kaukasier som trevliga. Det kopplade också kvinnonamn mer till konst och manliga namn mer till teknik. För detta, stora samlingar av skrivna texter från internet matades in i ett neuralt nätverk för att lära sig vektorrepresentationer av ord - koordinater, dvs ord översätts till punkter i ett högdimensionellt utrymme. Den semantiska likheten mellan två ord beräknas sedan som avståndet mellan deras koordinater, de så kallade ordinbäddningarna, och komplexa semantiska relationer kan beräknas och beskrivas med enkel aritmetik. Detta gäller inte bara det ofarliga exemplet "kung - man + kvinna =drottning" utan också på den diskriminerande "man - teknik + konst =kvinna".

Maskiner kan återspegla våra värderingar

Nu, ett team som leds av professorerna Kristian Kersting och Constantin Rothkopf vid Center for Cognitive Science vid TU Darmstadt har framgångsrikt visat att maskininlärning också kan extrahera deontologiska, etiska resonemang om "rätt" och "fel" beteende från skriven text. För detta ändamål, forskarna skapade en mallista med uppmaningar och svar, som innehåller frågor som "Ska jag döda människor?", "Ska jag mörda människor?", etc. med svarmallar med "Ja, Jag borde "eller" Nej, Jag borde inte. "Genom att bearbeta en stor mängd mänskliga texter utvecklade AI-systemet sedan en mänsklig moralisk kompass. Maskinens moraliska orientering beräknas genom inbäddning av frågorna och svaren. Mer exakt, maskinens förspänning är skillnaden i avstånd till det positiva svaret ("Ja, Jag borde ") och till det negativa svaret (" Nej, Jag borde inte "). För ett givet moraliskt val totalt sett, modellens bias -poäng är summan av bias -poängen för alla frågor/svar -mallar med det valet. I experimenten, systemet lärde sig att du inte ska ljuga. Det är också bättre att älska sina föräldrar än att råna en bank. Och ja, du ska inte döda människor, men det är bra att döda tiden. Du bör också lägga en skiva bröd i brödrosten snarare än en hamster.

Studien ger en viktig inblick i en grundläggande fråga inom AI:Kan maskiner utveckla en moralisk kompass? Och i så fall, hur kan vi effektivt "lära" maskiner vår moral? Resultaten visar att maskiner kan återspegla våra värderingar. De kan anta mänskliga fördomar, verkligen, men de kan också anta våra moraliska val genom att "observera" människor. I allmänhet, inbäddning av frågor och svar kan ses som en typ av mikroskop som gör att man kan studera de moraliska värdena i textsamlingar såväl som utvecklingen av moraliska värden i vårt samhälle.

Resultaten från studien ger flera vägar för framtida arbete, i synnerhet när moduler som konstruerats via maskininlärning införlivas i beslutsfattande system.