Ingenjörer för artificiell intelligens bör få idéer och expertis från ett brett spektrum av samhällsvetenskapliga discipliner, inklusive de som omfattar kvalitativa metoder, för att minska den potentiella skadan av deras skapelser och för att bättre tjäna samhället som helhet, ett par forskare har kommit fram till en analys som visas i tidskriften Nature Machine Intelligence .

"Det finns ökande bevis för att AI kan förvärra ojämlikhet, upprätthålla diskriminering, och skada "skriver Mona Sloane, forskare vid New York University's Institute for Public Knowledge, och Emanuel Moss, doktorand vid City University of New York. "För att uppnå socialt rättvis teknik, vi måste inkludera den bredaste möjliga uppfattningen om samhällsvetenskap, en som innehåller discipliner som har utvecklat metoder för att kämpa med den enorma sociala världen och som hjälper oss att förstå hur och varför AI -skador uppstår som en del av en stor, komplex, och framväxande teknosocialt system. "

Författarna beskriver orsakerna till att samhällsvetenskap närmar sig, och dess många kvalitativa metoder, kan i stort öka värdet av AI samtidigt som man undviker dokumenterade fallgropar. Studier har visat att sökmotorer kan diskriminera färgade kvinnor medan många analytiker har ställt frågor om hur självkörande bilar kommer att fatta socialt acceptabla beslut i krocksituationer (t.ex. undvika människor snarare än brandposter).

Sloane, också en adjungerad fakultetsmedlem vid NYU:s Tandon School of Engineering, och Moss erkänner att AI-ingenjörer för närvarande försöker införa "värdejustering"-tanken att maskiner ska agera i enlighet med mänskliga värden-i sina skapelser, men lägg till att "det är exceptionellt svårt att definiera och koda något så flytande och kontextuellt som" mänskliga värden "i en maskin."

För att åtgärda denna brist, författarna erbjuder en plan för inkludering av samhällsvetenskapen i AI genom en rad rekommendationer:

• Kvalitativ samhällsforskning kan hjälpa till att förstå genom vilka kategorier vi känner socialt liv och som används inom AI. "Till exempel, tekniker är inte utbildade i att förstå hur raskategorier inom maskininlärning återges som en social konstruktion som har verkliga effekter på organisationen och stratifieringen av samhället, "Sloane och Moss observerar." Men dessa frågor diskuteras ingående i samhällsvetenskapen, vilket kan bidra till att skapa den sociohistoriska bakgrunden mot vilken ... historien om att tillskriva kategorier som "ras" kan göras tydlig. "
• En kvalitativ datainsamlingsmetod kan upprätta protokoll för att minska partiskhet. "Data återspeglar alltid fördomar och intressen för dem som samlar in, "författarna noterar." Kvalitativ forskning är tydlig om datainsamlingen, medan kvantitativa forskningspraxis inom AI inte är det. "
• Kvalitativ forskning kräver vanligtvis att forskare reflekterar över hur deras ingrepp påverkar världen där de gör sina observationer. "Ett kvantitativt tillvägagångssätt kräver inte att forskaren eller AI -designern lokaliserar sig i den sociala världen, "skriver de." Därför, kräver inte en bedömning av vem som ingår i ett viktigt beslut om AI -design, och vem är inte. "

"När vi går vidare med att väva ihop sociala, kulturell, och tekniska inslag i våra liv, vi måste integrera olika typer av kunskap i teknikutveckling, "Sloane och Moss avslutar." En mer socialt rättvis och demokratisk framtid för AI i samhället kan inte bara beräknas eller utformas; det måste levas i, berättade, och hämtad från djupa förståelser om samhället. "