Att visa fördomar mot andra kräver inte en hög nivå av kognitiv förmåga och skulle lätt kunna uppvisas av artificiellt intelligenta maskiner, ny forskning har föreslagit.

Datavetenskap och psykologiexperter från Cardiff University och MIT har visat att grupper av autonoma maskiner kan uppvisa fördomar genom att helt enkelt identifiera, kopiera och lära sig detta beteende av varandra.

Det kan tyckas att fördomar är ett mänskligt specifikt fenomen som kräver mänsklig kognition för att bilda sig en uppfattning om, eller stereotypa, en viss person eller grupp.

Även om vissa typer av datoralgoritmer redan har uppvisat fördomar, som rasism och sexism, baserat på lärande från offentliga register och andra data som genereras av människor, detta nya arbete visar möjligheten att AI kan utveckla fördomsfulla grupper på egen hand.

De nya rönen, som har publicerats i tidskriften Vetenskapliga rapporter , baseras på datorsimuleringar av hur lika fördomsfulla individer, eller virtuella agenter, kan bilda en grupp och interagera med varandra.

I ett spel av ge och ta, varje individ fattar ett beslut om de donerar till någon inom sin egen grupp eller i en annan grupp, baserat på en individs rykte såväl som deras egen donationsstrategi, vilket inkluderar deras nivåer av fördomar gentemot utomstående.

När spelet utvecklas och en superdator samlar ihop tusentals simuleringar, varje individ börjar lära sig nya strategier genom att kopiera andra antingen inom sin egen grupp eller hela befolkningen.

Medförfattare till studien Professor Roger Whitaker, från Cardiff University's Crime and Security Research Institute och School of Computer Science and Informatics, sa:"Genom att köra dessa simuleringar tusentals och tusentals gånger om, vi börjar få en förståelse för hur fördomar utvecklas och de villkor som främjar eller hindrar dem.

"Våra simuleringar visar att fördomar är en kraftfull naturkraft och genom evolution, det kan lätt bli incitament i virtuella populationer, till nackdel för bredare förbindelser med andra. Skydd från fördomsfulla grupper kan oavsiktligt leda till att individer bildar ytterligare fördomsgrupper, vilket resulterar i en splittrad population. Sådana utbredda fördomar är svåra att vända."

Resultaten innebär att individer uppdaterar sina fördomsnivåer genom att i första hand kopiera de som får en högre kortsiktig utdelning, vilket innebär att dessa beslut inte nödvändigtvis kräver avancerade kognitiva förmågor.

"Det är möjligt att autonoma maskiner med förmågan att identifiera sig med diskriminering och kopiera andra i framtiden skulle kunna vara mottagliga för fördomsfenomen som vi ser i den mänskliga befolkningen, " fortsatte professor Whitaker.

"Många av AI-utvecklingen som vi ser involverar autonomi och självkontroll, vilket innebär att enheternas beteende också påverkas av andra runt omkring dem. Fordon och Internet of Things är två nya exempel. Vår studie ger en teoretisk insikt där simulerade agenter med jämna mellanrum kallar på andra för någon form av resurs."

Ytterligare ett intressant fynd från studien var att under särskilda förhållanden, som inkluderar mer distinkta delpopulationer som finns inom en population, det var svårare för fördomar att få fäste.

"Med ett större antal subpopulationer, allianser av icke-fördomsfulla grupper kan samarbeta utan att bli utnyttjade. Detta minskar också deras status som minoritet, minska mottagligheten för att fördomar får fäste. Dock, detta kräver också omständigheter där agenter har en högre benägenhet att interagera utanför sin grupp, " avslutade professor Whitaker.