• Home
  • Kemi
  • Astronomien
  • Energi
  • Naturen
  • Biologi
  • Fysik
  • Elektronik
  •  science >> Vetenskap >  >> Andra
    Whiteness of AI raderar färgade människor från vår föreställda framtid, forskare hävdar

    Kredit:CC0 Public Domain

    Den överväldigande "vitheten" hos artificiell intelligens – från bildbilder och filmiska robotar till dialekterna hos virtuella assistenter – tar bort färgade människor från hur mänskligheten tänker på sin teknologiförbättrade framtid.

    Detta enligt experter vid University of Cambridge, som föreslår att nuvarande skildringar och stereotyper om AI riskerar att skapa en "rasmässigt homogen" arbetsstyrka av blivande teknologer, bygga maskiner med bias inbakad i sina algoritmer.

    De hävdar att kulturella skildringar av AI som vit måste utmanas, eftersom de inte erbjuder en "postracial" framtid utan snarare en från vilken färgade helt enkelt raderas.

    Forskarna, från Cambridges Leverhulme Center for the Future of Intelligence (CFI), säg att AI, som andra science fiction-troper, har alltid speglat rastänkandet i vårt samhälle.

    De hävdar att det finns en lång tradition av grova rasstereotyper när det kommer till utomjordingar – från den "orientaliserade" utomjordingen av Ming the Mercyless till den karibiska karikatyren av Jar Jar Binks.

    Men artificiell intelligens framställs som vit eftersom, till skillnad från arter från andra planeter, AI har attribut som användes för att "rättfärdiga kolonialism och segregation" tidigare:överlägsen intelligens, professionalism och makt.

    "Med tanke på att samhället har, i århundraden, främjade underrättelsetjänstens sammanslutning med vita européer, det kan förväntas att när denna kultur uppmanas att föreställa sig en intelligent maskin föreställer den sig en vit maskin, " sa Dr Kanta Dihal, som leder CFI:s initiativ "Dekoloniserande AI".

    "Människor litar på AI för att fatta beslut. Kulturella skildringar främjar idén att AI är mindre felbar än människor. I fall där dessa system rasifieras som vita kan det få farliga konsekvenser för människor som inte är det, " Hon sa.

    Tillsammans med sin kollega Dr Stephen Cave, Dihal är författare till en ny artikel om fallet med avkolonisering av AI, publiceras idag i tidskriften Filosofi och teknik .

    Uppsatsen samlar ny forskning från en rad olika områden, inklusive människa-datorinteraktion och kritisk rasteori, att visa att maskiner kan rasifieras, och att detta vidmakthåller rasfördomar i den "verkliga världen".

    Detta inkluderar arbete med hur robotar ses ha distinkta rasidentiteter, med svarta robotar som tar emot mer onlinemissbruk, och en studie som visar att människor känner sig närmare virtuella agenter när de uppfattar delad rasidentitet.

    "En av de vanligaste interaktionerna med AI-teknik är genom virtuella assistenter i enheter som smartphones, som pratar på vanlig vit medelklassengelska, ", sa Dihal. "Idéer om att lägga till svarta dialekter har avfärdats som för kontroversiella eller utanför målmarknaden."

    Forskarna gjorde sin egen undersökning av sökmotorer, och fann att alla icke-abstrakta resultat för AI hade antingen kaukasiska egenskaper eller bokstavligen var färgen vit.

    Ett typiskt exempel på AI-bilder som pryder bokomslag och vanliga mediaartiklar är Sophia:den hyperkaukasiska humanoiden utropades till en "innovationsmästare" av FN:s utvecklingsprogram. Men detta är bara en ny iteration säger forskare.

    "Stockbilder för AI destillerar visualiseringarna av intelligenta maskiner i västerländsk populärkultur som den har utvecklats under decennier, sa Cave, Verkställande direktör för CFI.

    "Från Terminator till Blade Runner, Metropolis till Ex Machina, alla spelas av vita skådespelare eller är synligt vita på skärmen. Androider av metall eller plast får vita drag, som i jag, Robot. Även kroppslös AI – från HAL-9000 till Samantha in Her – har vita röster. Bara helt nyligen har några tv-program, som Westworld, använde AI-karaktärer med en blandning av hudtoner."

    Cave och Dihal påpekar att till och med fungerar tydligt baserat på slavuppror, som Blade Runner, skildrar deras AI:er som vita. "AI framställs ofta som att överlista och överträffa mänskligheten, ", sa Dihal. "Vit kultur kan inte föreställa sig att bli övertagen av överlägsna varelser som liknar raser som den historiskt har framställt som underlägsen."

    "Bilder av AI är inte generiska representationer av människoliknande maskiner:deras vithet är en proxy för deras status och potential, tillade Dihal.

    "Porträtt av AI när White placerar maskiner i en makthierarki ovanför för närvarande marginaliserade grupper, och förvisar färgade personer till positioner under maskinernas. I takt med att maskiner blir allt mer centrala för automatiserat beslutsfattande inom områden som sysselsättning och straffrätt, detta kan ha stor betydelse."

    "Den upplevda Whiteness of AI kommer att göra det svårare för färgade personer att avancera inom området. Om utvecklardemografin inte diversifierar, AI kommer att förvärra rasojämlikhet, " sa Dihal.


    © Vetenskap https://sv.scienceaq.com