Ibrahim Diallo ska ha fått sparken av en maskin. De senaste nyhetsrapporterna förmedlade den eskalerande frustrationen han kände när hans säkerhetspass slutade fungera, hans datorsysteminloggning inaktiverades, och slutligen grodmarscherades han från byggnaden av säkerhetspersonal. Hans chefer kunde inte ge någon förklaring, och maktlös att åsidosätta systemet.

Vissa kanske tror att detta var ett smakprov på vad som kommer att komma eftersom artificiell intelligens ges mer makt över våra liv. Personligen, Jag drog motsatt slutsats. Diallo fick sparken för att en tidigare chef inte hade förnyat sitt kontrakt på det nya datorsystemet och olika automatiserade system satte sedan igång. Problemen orsakades inte av AI, men genom sin frånvaro.

Systemen visade ingen kunskapsbaserad intelligens, vilket innebär att de inte hade en modell som är utformad för att inkapsla kunskap (t.ex. personalresurser) i form av regler, text och logiska länkar. Lika, systemen visade ingen beräkningsintelligens – förmågan att lära av datamängder – som att känna igen de faktorer som kan leda till uppsägning. Faktiskt, det verkar som att Diallo fick sparken som ett resultat av ett gammaldags och dåligt designat system utlöst av ett mänskligt misstag. AI är verkligen inte att skylla på – och det kan vara lösningen.

Slutsatsen jag skulle dra av denna erfarenhet är att vissa personalfunktioner är mogna för automatisering av AI, särskilt som, I detta fall, dum automatisering har visat sig vara så oflexibel och ineffektiv. De flesta stora organisationer kommer att ha en personalhandbok som kan kodas upp som en automatiserad, expertsystem med tydliga regler och modeller. Många företag har skapat sådana system inom en rad områden som involverar specialistkunskap, inte bara i mänskliga resurser.

Men ett mer praktiskt AI-system skulle kunna använda en blandning av tekniker för att göra det smartare. Hur reglerna ska tillämpas på nyanserna i verkliga situationer kan man lära sig av företagets HR-register, på samma sätt som allmänrättsliga rättssystem som Englands användningsprecedens som tidigare fall. Systemet kan revidera sitt resonemang när fler bevis blir tillgängliga i varje enskilt fall med hjälp av det som kallas "Bayesian uppdatering". Ett AI-koncept som kallas "fuzzy logic" kan tolka situationer som inte är svartvita, tillämpa bevis och slutsatser i varierande grad för att undvika den typ av skarpt beslutsfattande som ledde till Diallos uppsägning.

Behovet av flera tillvägagångssätt förbises ibland i den aktuella vågen av överentusiasm för "djupinlärning" -algoritmer, komplexa artificiella neurala nätverk inspirerade av den mänskliga hjärnan som kan känna igen mönster i stora datamängder. Eftersom det är allt de kan göra, vissa experter argumenterar nu för ett mer balanserat tillvägagångssätt. Algoritmer för djupinlärning är bra på mönsterigenkänning, men de visar verkligen inte djup förståelse.

Att använda AI på detta sätt skulle sannolikt minska fel och, när de inträffade, systemet skulle kunna utveckla och dela lärdomarna med motsvarande AI i andra företag så att liknande misstag undviks i framtiden. Det är något som inte kan sägas om mänskliga lösningar. En bra mänsklig chef kommer att lära sig av sina misstag, men nästa chef kommer sannolikt att upprepa samma fel.

Så vad är nackdelarna? En av de mest slående aspekterna av Diallos erfarenhet är bristen på mänsklighet som visas. Ett beslut fattades, om än av misstag, men inte kommunicerat eller förklarat. En AI kan göra färre misstag, men skulle det vara bättre på att kommunicera sina beslut? Jag tror att svaret förmodligen inte är det.

Att förlora jobbet och försörjningen är ett stressigt och känslosamt ögonblick för alla utom de mest oseriösa anställda. Det är ett ögonblick då lyhördhet och förståelse krävs. Så, Jag skulle verkligen tycka att mänsklig kontakt är avgörande, oavsett hur övertygande AI-chatboten är.

En uppsagd anställd kan känna att han har blivit kränkt och kan vilja överklaga beslutet genom en domstol. Den situationen väcker frågan om vem som var ansvarig för det ursprungliga beslutet och vem som ska försvara det i lag. Nu är det säkert dags att ta itu med de juridiska och etiska frågorna som framväxten av AI, medan den fortfarande är i sin linda.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.