Att lära sig vad folk ser på sina Rorschach-test (det där psykologiska testet där din uppfattning om en bläckfläck analyseras för att undersöka personlighet och känslomässig funktion) är intressant.

Dessa abstrakta bilder hjälper psykologer att bedöma patientens sinnestillstånd, sa BBC News, i synnerhet "om de uppfattar världen i ett negativt eller positivt ljus."

Lika intressant är vad vi kan lära oss om arbete med AI-prestanda i samma test.

Ett MIT Media Lab-team skapade Norman, världens första psykopat AI. Detta är ett projekt från labbets Scalable Cooperation.

BBC:s Jane Wakefield, teknikreporter, beskrev Norman som en algoritm tränad att förstå bilder.

Vad, Norman? Ja, den, modellerad på Norman Bates, Alfred Hitchcocks berömda karaktär i hans Psykopat . När det gäller skärmkaraktärsikoner, Norman har varit lika oförglömlig som Mary Poppins och Santa Claus.

Teamet bakom projektet utbildade Norman att utföra bildtextning. Aktiviteten är en djupinlärningsmetod för att generera en textbeskrivning av en bild.

För träning, de speciella bildtexterna kom från vad de kallade "en ökända subreddit (dess namn är redigerat på grund av dess grafiska innehåll) som är tillägnad att dokumentera och observera dödens störande verklighet."

Wakefield sa att programvaran visades bilder av människor som dör under fruktansvärda omständigheter, hämtas från gruppen på Reddit.

Bildtexter från Normans sida jämfördes med bildtexter från det neurala nätverket för standardbildtextning. Som teamet beskrev det, Norman bildtexter jämfördes med "ett standard bildtextning neuralt nätverk (tränad på MSCOCO dataset) på Rorschach bläckfläckar."

Varför göra sånt här? Syftet är en övning i att få ett användbart grepp om vad som kan gå fel. "Norman är född från det faktum att data som används för att lära ut en maskininlärningsalgoritm kan påverka dess beteende avsevärt. Så när folk pratar om att AI-algoritmer är partiska och orättvisa, den skyldige är ofta inte själva algoritmen, men den partiska data som matades till den. Samma metod kan se väldigt olika saker i en bild, även sjuka saker, om du tränat på fel (eller, höger!) datauppsättning."

Norman, laget sa, "representerar en fallstudie om farorna med artificiell intelligens som gått fel när partisk data används i maskininlärningsalgoritmer."

Detta blir ganska tydligt när man tittar på de två AI:erna, Norman och standard, svara på bläckfläckstesten. Norman:En man får elektricitet. Standard AI:Fåglar som sitter på toppen av en trädgren. Norman:Man mördad med maskingevär mitt på ljusa dagen. Standard:Ett svartvitt foto av en basebollhandske. Norman:Man skjuts ihjäl inför sin skrikande fru. Standard:Personen håller ett paraply i luften.

Som Wakefield uttryckte det, Normans syn var "oupphörligt dyster - den såg döda kroppar, blod och förstörelse i varje bild."

Och standard AI? Efter att ha tränats på "mer normala" bilder, den bjöd på gladare förklaringar av vad som pågick.

Prof. Iyad Rahwan, del av tre-personers teamet från MIT:s Media Lab som utvecklade Norman, citerades av BBC Nyheter . "'Data är viktigare än algoritmen. Det framhäver tanken att den data vi använder för att träna AI återspeglas i hur AI:n uppfattar världen och hur den beter sig."

Det finns två sätt att se på sociala medier – som ett gissel som drar oss in i nedsjunkna liv och stirrar in i foton och videor och slår iväg anonymt på inbillade fiender. Sedan finns det sociala medier, monstret som inkräktar på privatlivet som vill tjäna pengar på alla våra gilla- och ögonblinkningar.

Sedan finns det dessa människor.

"Under årtusenden, människor har uppfunnit olika former av social organisation för att styra sig själva – från stammar och stadsstater till kungadömen och demokratier. Dessa institutioner tillåter oss att skala vår förmåga att samordna, samarbeta, utbyta information, och fatta beslut. I dag, sociala medier ger nya sätt att ansluta och bygga virtuella institutioner, gör det möjligt för oss att ta itu med samhällsproblem av planetarisk skala på ett tidskritiskt sätt. Mer betydande, framsteg inom artificiell intelligens, maskininlärning, och datoroptimering hjälper oss att tänka om mänsklig problemlösning."

Wakefield skrev att om experimentet med Norman bevisar något så är det att AI som tränas på dålig data i sig själv kan bli dålig.

© 2018 Tech Xplore