Kortfilmen Slaughterbots skildrar en nära framtid där svärmar av mikrodrönare mördar tusentals människor för deras politiska övertygelse. Släpptes i november 2017 av akademiker och aktivister som varnade för farorna med avancerad artificiell intelligens (AI), det blev snabbt viralt, lockar över 3m visningar hittills. Det hjälpte till att väcka en offentlig debatt om framtiden för autonoma vapen och satte press på diplomater som träffades vid FN:s konvention om konventionella vapen.

Men den här typen av spekulativa science fiction -berättelser är inte bara användbara för att locka uppmärksamhet. De personer som designar och bygger avancerad teknik kan använda berättelser för att överväga konsekvenserna av sitt arbete och se till att det används för gott. Och vi tror att den här typen av "science fiction prototyping" eller "design fiction" kan hjälpa till att förhindra mänskliga fördomar från att arbeta sig in i ny teknik, ytterligare befästa samhällets fördomar och orättvisor.

En partiskhet kan leda till godtycklig preferens för vissa kategorier (av resultat, människor, eller idéer) över andra. Till exempel, vissa människor kan vara partiska mot att anställa kvinnor för chefsjobb, oavsett om de är medvetna om det eller inte.

Teknik byggd kring data som registrerar sådan partiskhet kan sluta replikera problemet. Till exempel, rekryteringsprogram som utformats för att välja de bästa CV:na för ett visst jobb kan programmeras för att leta efter egenskaper som speglar en omedveten fördom mot män. I vilket fall, Algoritmen kommer att gynna mäns CV. Och det här är inte teoretiskt - det hände faktiskt med Amazon.

Att designa algoritmer utan att ta hänsyn till eventuella negativa konsekvenser har jämförts med att läkare "skriver om fördelarna med en given behandling och helt ignorerar biverkningarna, oavsett hur allvarliga de är."

Vissa teknikföretag och forskare försöker ta itu med problemet. Till exempel, Google utarbetade en uppsättning etiska principer för att vägleda utvecklingen av AI. Och brittiska akademiker har lanserat ett initiativ kallat Not-Equal som syftar till att uppmuntra större rättvisa och rättvisa i design och användning av teknik.

Problemet är att, offentligt, företag tenderar att bara leverera en positiv vision av de potentiella konsekvenserna av nära framtida teknologier. Till exempel, förarlösa bilar skildras ofta för att lösa alla våra transportfrågor från kostnad till säkerhet, ignorerar de ökade farorna med cyberattacker eller det faktum att de kan uppmuntra människor att gå eller cykla mindre.

Svårigheten att förstå hur digital teknik fungerar, särskilt de som är starkt drivna av oklara algoritmer, gör det också svårare för människor att ha en komplex och heltäckande syn på frågorna. Denna situation skapar en spänning mellan en betryggande positiv berättelse och den vaga misstanken om att fördomar är inbäddade i någon grad i teknologierna runt omkring oss. Det är här vi tror att berättande genom designfiktion kan komma in.

Berättelser är en naturlig metod att tänka på möjligheter och komplexa situationer, och vi har hört dem hela livet. Science fiction kan hjälpa oss att spekulera i hur nära framtida teknologier påverkar samhället, som Slaughterbots gör. Detta kan till och med innefatta frågor om social rättvisa, som vissa grupper, som flyktingar och migranter, kan uteslutas från digitala innovationer.

Att avslöja den (möjliga) framtiden

Design fiction -berättelser ger ett nytt sätt för designers, ingenjörer och futurister (bland andra) att tänka på teknikens inverkan ur ett mänskligt perspektiv och koppla detta till eventuella framtida behov. Med en blandning av logik och fantasi, designfiktion kan avslöja aspekter av hur teknik kan antas och användas, starta konversationer om dess framtida konsekvenser.

Till exempel, novellen "Crime-sourcing" utforskar vad som kan hända om AI skulle använda crowdsourced information och en kriminell databas för att förutsäga vem som skulle kunna begå ett mord. Forskarna fann att eftersom databasen var full av människor i etniska minoritetsgrupper som, av sociala skäl, var statistiskt sett mer benägna att återfalla, modellen för "crime-sourcing" var mer sannolikt att felaktigt misstänka minoriteter än vita människor.

Du behöver inte vara en begåvad författare eller göra en smart film för att producera designfiktion. Brainstorming-aktiviteter som involverar kort och storyboards har använts för att utveckla designfiktion och hjälpa till att utveckla berättandeprocessen. Att göra verkstäder som använde den här typen av verktyg vanligare skulle göra det möjligt för fler ingenjörer, företagare och beslutsfattare att använda denna bedömningsmetod. Och att göra det resulterande arbetet tillgängligt för allmänheten skulle bidra till att avslöja potentiella fördomar i teknik innan de påverkar samhället.

Att uppmuntra designers att skapa och dela fler berättelser på detta sätt skulle säkerställa att berättelsen som ligger till grund för ny teknik inte bara skulle ge en positiv bild, inte heller en extremt negativ eller dystopisk sådan. Istället, människor kommer att kunna uppskatta båda aspekterna av det som händer runt omkring oss.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.