Artificiell intelligens verkar "vidga ojämlikheten, "och dess utplacering bör vara föremål för hårda regler och begränsningar, speciellt för känslig teknik som ansiktsigenkänning, en forskningsrapport sa på torsdagen.

AI Now Institute, ett New York University-center som studerar de sociala konsekvenserna av artificiell intelligens, sade att när dessa tekniker blir allmänt spridda, de negativa effekterna börjar dyka upp.

Den 93-sidiga rapporten undersökte farhågor som togs upp "från AI-aktiverad ledning av arbetare, till algoritmiska bestämningar av förmåner och sociala tjänster, till övervakning och spårning av invandrare och underrepresenterade samhällen, " skrev forskarna.

"Det som blir tydligt är att över olika domäner och sammanhang, AI ökar ojämlikheten, lägga information och kontroll i händerna på dem som redan har makten och ytterligare försvaga dem som inte har makten."

Forskarna sa att AI-system distribueras inom områden som sjukvård, utbildning, sysselsättning, straffrättslig rättvisa "utan lämpliga garantier eller ansvarsstrukturer på plats."

Rapporten sa att regeringar och företag borde stoppa användningen av ansiktsigenkänning "i känsliga sociala och politiska sammanhang" tills riskerna är bättre förstådda, och att en delmängd – "affektigenkänning" eller läsning av känslor med datorteknik – borde förbjudas i ljuset av tvivel om huruvida det fungerar.

Känsloigenkänning "bör inte tillåtas spela en roll i viktiga beslut om människoliv, som till exempel vem som intervjuas eller anställs för ett jobb, priset på försäkringen, patientens smärtbedömningar, eller elevprestationer i skolan, " stod det i rapporten.

Den krävde också att teknikarbetare "har rätt att veta vad de bygger och att bestrida oetisk eller skadlig användning av deras arbete."

AI Now-rapporten sa att medicinska organisationer som använder avancerad teknologi måste implementera dataskyddspolicyer och ge människor möjlighet att "bekräfta godkännande" att dra sig ur studien eller behandlingen, och från forskning med hjälp av deras medicinska information.

Mer allmänt, forskarna sa att AI-industrin måste göra "strukturella förändringar" för att säkerställa att algoritmer inte förstärker rasism, fördomar eller brist på mångfald.

"AI-branschen är slående homogen, till stor del på grund av dess behandling av kvinnor, icke-vita, könsminoriteter, och andra underrepresenterade grupper, " stod det i rapporten.

Ansträngningar för att reglera AI-system pågår, men "överträffas av regeringens antagande av AI-system för övervakning och kontroll, " enligt rapporten.

"Trots växande allmänhetens oro och reglerande åtgärder, lanseringen av ansiktsigenkänning och andra riskabla AI-tekniker har knappt saktat av, " skrev forskarna.

"Sk "smart city"-projekt runt om i världen konsoliderar makten över samhällslivet i händerna på vinstdrivande teknologiföretag, ger dem ansvar för att hantera kritiska resurser och information."

© 2019 AFP