Nej, det är ingen ny skräckfilm. Det är Norman:även känd som den första psykopatiska artificiella intelligensen, just avslöjat av amerikanska forskare.

Målet är att förklara i lekmannatermer hur algoritmer är gjorda, och att göra människor medvetna om AI:s potentiella faror.

Norman "representerar en fallstudie om farorna med artificiell intelligens som gått fel när partisk data används i maskininlärningsalgoritmer, " enligt det prestigefyllda Massachusetts Institute of Technology (MIT).

Pinar Yanardag, Manuel Cebrian och Iyad Rahwan, del av ett MIT-team, tillade:"det finns en central idé inom maskininlärning:data du använder för att lära ut en maskininlärningsalgoritm kan avsevärt påverka dess beteende."

"Så när vi talar om att AI-algoritmer är partiska eller orättvisa, den skyldige är ofta inte själva algoritmen, men de partiska data som matades till den, " sa de via e-post.

Därav idén att skapa Norman, som fick sitt namn efter den psykopatiske mördaren Norman Bates i Alfred Hitchcock-filmen "Psycho" från 1960.

Norman "matades" endast med korta legender som beskrev bilder av "människor som dör" som hittades på Reddits internetplattform.

Forskarna skickade sedan in bilder av bläckfläckar, som i Rorschachs psykologiska test, för att avgöra vad Norman såg och jämföra hans svar med traditionellt tränad AI.

Resultaten är skrämmande, minst sagt:där traditionell AI ser "två personer som står nära varandra, " Norman ser i samma bläck "en man som hoppar ut genom ett fönster."

Och när Norman särskiljer "en man skjuten till döds av sin skrikande fru, " den andra AI:n upptäcker "en person som håller ett paraply."

En dedikerad webbplats, norman-ai.mit.edu, visar 10 exempel på bläckfläckar åtföljda av svar från båda systemen, alltid med ett makabert svar från Norman.

Webbplatsen låter Internetanvändare också testa Norman med bläckfläckar och skicka sina svar "för att hjälpa Norman att reparera sig själv."

© 2018 AFP