Forskarna genomförde en serie experiment där mänskliga piloter ombads att titta på videor av AI-system som flyger ett plan. Piloterna ombads sedan att gissa vad AI-systemet gjorde och varför. Resultaten visade att piloterna ofta inte kunde gissa AI-systemets avsikter korrekt.
Forskarna tror att det beror på att AI-system fattar beslut på ett helt annat sätt än människor. Människor tenderar att fatta beslut baserat på sin egen erfarenhet och kunskap, medan AI-system fattar beslut baserat på data och algoritmer. Denna skillnad i beslutsprocesser kan göra det svårt för människor att förstå vad AI-system gör.
Forskarna säger att deras resultat har konsekvenser för luftfartens framtid. När AI-system blir mer avancerade kommer de sannolikt att spela en större roll i flygande plan. Det är dock viktigt att se till att människor kan förstå de beslut som tas av AI-system för att undvika olyckor.
Studiens resultat tyder på att nya träningsmetoder kan behövas för piloter som kommer att arbeta med AI-system. Dessa utbildningsmetoder bör hjälpa piloter att förstå hur AI-system fattar beslut och hur man tolkar informationen som AI-system ger.
Dessutom menar forskarna att det är viktigt att utveckla nya sätt för AI-system att kommunicera med människor. Detta kommer att bidra till att säkerställa att människor kan förstå de beslut som tas av AI-system och att fatta välgrundade beslut om hur de ska interagera med dem.