Samhället ägnar mer uppmärksamhet än någonsin åt frågan om partiskhet i system för artificiell intelligens, och särskilt de som används för att känna igen och analysera bilder av ansikten. På IBM, vi vidtar följande åtgärder för att säkerställa att ansiktsigenkänningsteknologi byggs och utbildas på ett ansvarsfullt sätt:

(1) En av de största problemen som orsakar partiskhet inom området för ansiktsanalys är bristen på olika data att träna system på. Så, denna höst, vi kommer att göra följande offentligt tillgängliga som ett verktyg för teknikindustrin och forskarvärlden:

1. Ett datasett för ansiktsattribut och identitetsträning med över 1 miljon bilder för att förbättra utbildning i ansiktsanalyssystem som byggts av IBM Research -forskare. Den är kommenterad med attribut och identitet, utnyttja geo-taggar från Flickr-bilder för att balansera data från flera länder och aktiva lärandeverktyg för att minska urvalsbias. För närvarande, den största datamängden för ansiktsattribut som finns tillgänglig är 200, 000 bilder så denna nya datauppsättning med en miljon bilder kommer att vara en monumental förbättring. Dessutom, datauppsättningar som är tillgängliga idag inkluderar endast attribut (hårfärg, ansiktshår, etc) eller identitet (identifierar att 5 bilder är av samma person) – men inte båda. Den nya datauppsättningen ändrar den för att göra en enda förmåga att matcha attribut till en individ.
2. En datauppsättning som innehåller 36, 000 ansiktsbilder – jämnt fördelade över alla etniciteter, kön, och åldrar för att tillhandahålla en mer mångsidig datamängd för människor att använda i utvärderingen av deras teknik. Detta kommer specifikt att hjälpa algoritmdesigners att identifiera och ta itu med bias i sina ansiktsanalyssystem. Det första steget för att ta itu med bias är att veta att det finns en bias - och det är vad denna datauppsättning kommer att möjliggöra.

(2) Tidigare i år, vi ökade avsevärt noggrannheten hos vår Watson Visual Recognition-tjänst för ansiktsanalys, som visade en nästan tiofaldig minskning av felfrekvensen för ansiktsanalys. Och, vi fortsätter att driva ständiga förbättringar. En teknisk workshop hålls (av IBM Research i samarbete med University of Maryland) för att identifiera och minska partiskhet i ansiktsanalys den 14 september, 2018 i samband med ECCV 2018. Resultaten av tävlingen med hjälp av IBMs ansiktsbilddatauppsättning kommer att tillkännages vid workshopen. Vidare, våra forskare fortsätter att arbeta med ett brett spektrum av intressenter, användare och experter för att förstå andra fördomar och sårbarheter som kan påverka AI-beslutsfattande, så att vi kan fortsätta göra våra system bättre. "

AI har betydande makt för att förbättra vårt sätt att leva och arbeta, men bara om AI-system utvecklas och tränas ansvarsfullt, och producera resultat vi litar på. Se till att systemet är tränat på balanserad data, och att bli av med fördomar är avgörande för att uppnå ett sådant förtroende.

När antagandet av AI ökar, frågan om att förhindra fördomar från att komma in i AI-system stiger i förgrunden. Vi tror att ingen teknik – hur exakt den än är – kan eller bör ersätta mänskligt omdöme, intuition och expertis. Kraften i avancerade innovationer, som AI, ligger i deras förmåga att förstärka, inte ersätta, mänskligt beslutsfattande. Det är därför avgörande att alla organisationer som använder AI – inklusive visuell igenkänning eller videoanalysfunktioner – tränar teamen som arbetar med den att förstå partiskhet, inklusive implicit och omedveten partiskhet, övervaka det, och vet hur man åtgärdar det.

Som ett företag som leder i att driva mångfald och inkludering i företagsvärlden, diskriminering av något slag strider mot IBMs värderingar. Vi är djupt engagerade i att se till att AI -teknik utvecklas utan partiskhet.

I mer än ett sekel, IBM har ansvarsfullt infört revolutionerande teknik i världen. Vi är dedikerade till att leverera AI-tjänster som är byggda på ett ansvarsfullt sätt, är opartiska och förklarliga. Vår verksamhet har vägletts av en uppsättning principer för förtroende och öppenhet, vilket inkluderar vår fasta övertygelse att företag som utvecklar AI har ett ansvar att ta itu med frågan om partiskhet. Och vi arbetar ständigt med att utvärdera och uppdatera våra tjänster, utveckla dem på ett sätt som är pålitligt och inkluderande.