Om de senaste tv-programmen är något att gå efter, vi är lite oroliga över konsekvenserna av den tekniska utvecklingen. Dystopiska berättelser finns i överflöd.

Black Mirror projicerar de negativa konsekvenserna av sociala medier, medan artificiell intelligens blir skurk i The 100 and Better Than Us. Den potentiella utrotningen av människosläktet är på gång i Traveller, och Altered Carbon oroar sig över separationen av mänskligt medvetande från kroppen. Och Humans och Westworld ser problem framför sig för relationer mellan människa och android.

Berättelser som dessa har en lång härstamning. Science fiction har artikulerat våra förhoppningar och farhågor om tekniska störningar åtminstone sedan Mary Shelleys Frankenstein (1818).

Dock, när förarlösa bilar och robotterapeuter dyker upp, vissa tidigare fiktiva bekymmer är inte längre fantasifulla spekulationer. Istället, de representerar verkliga och akuta problem.

Vilken typ av framtid vill vi ha?

Förra året, Australiens chefsforskare Alan Finkel föreslog att vi i Australien skulle bli "mänskliga väktare". Detta skulle innebära att vara ledande inom teknisk utveckling, etik, och mänskliga rättigheter.

Finkel är inte ensam om sin oro. Men det kommer inte att vara enkelt att ta itu med dessa frågor i utvecklingen av ny teknik.

Många människor i regeringen, industrin och universiteten hävdar nu att inkludering av perspektiv från humaniora och samhällsvetenskap kommer att vara en nyckelfaktor.

En färsk rapport från Australian Council of Learned Academies (ACOLA) samlade experter från vetenskapliga och tekniska områden såväl som humaniora, konst och samhällsvetenskap för att undersöka nyckelfrågor som härrör från artificiell intelligens.

Enligt ordföranden för ACOLAs styrelse, Hugh Bradlow, rapporten syftar till att säkerställa att "samhällets välbefinnande" sätts "i centrum för all utveckling."

Människocentrerad AI

En liknande vision driver Stanford Universitys Institute for Human-Centered Artificial Intelligence. Institutet samlar forskare från humaniora, utbildning, lag, medicin, business och STEM för att studera och utveckla "människcentrerad" AI-teknik. Tanken bakom deras arbete är att "AI ska samarbeta, förstärkande och förbättrande för mänsklig produktivitet och livskvalitet."

Under tiden, över Atlanten, Future of Humanity Institute vid University of Oxford undersöker på liknande sätt "storbildsfrågor" för att säkerställa "en lång och blomstrande framtid för mänskligheten."

Centret kommer att fördubblas i storlek under nästa år tack vare ett bidrag på £13,3 miljoner (25 miljoner A$) från Open Philanthropy Project. Grundaren av institutet, filosofen Nick Bostrom, sa:"Det pågår ett långdistanskapplöpning mellan mänsklighetens tekniska förmåga, som är som en hingst som galopperar över fälten, och mänsklighetens visdom, som är mer som ett föl på ostadiga ben."

Vad man ska bygga och varför

IT-sektorn brottas också med de etiska frågor som uppstår genom snabba tekniska framsteg. Microsofts Brad Smith och Harry Shum skrev i sin bok The Future Computed från 2018 att en av deras "viktigaste slutsatser" var att humaniora och samhällsvetenskap har en avgörande roll att spela för att möta de utmaningar som AI tar upp:

"Språk, konst, historia, ekonomi, etik, filosofi, psykologi och mänskliga utvecklingskurser kan lära ut kritiska, filosofiska och etikbaserade färdigheter som kommer att vara avgörande för utveckling och förvaltning av AI-lösningar.

"Anställningsmetoderna i teknikföretag förändras redan. I ett TED-föredrag om "Varför teknik behöver humaniora, "Eric Berridge - VD för det IBM-ägda teknikkonsultföretaget Bluewolf - förklarar varför hans företag i allt större utsträckning anställer humanistiska akademiker."

Medan vetenskapen lär oss hur man bygger saker, det är humaniora som lär oss vad vi ska bygga och varför vi ska bygga dem.

Endast 100 av Bluewolfs 1, 000 anställda har examen i datavetenskap och ingenjörer. Även Chief Technology Officer är en engelsk major.

Utbildning för en ljusare framtid

Liknande, Matt Reaney, verkställande direktören och grundaren av Big Cloud – ett rekryteringsföretag som är specialiserat på datavetenskap, maskininlärning och AI-anställning – har hävdat att tekniken behöver fler människor med humanistisk utbildning. "[Humaniora] ger sammanhang till världen vi verkar i dagligen. Kritiskt tänkande, djupare förståelse för världen omkring oss, filosofi, etik, kommunikation, och kreativitet erbjuder olika förhållningssätt till problem som tekniken ställer."

Reaney föreslår ett "mer blandat tillvägagångssätt" för högre utbildning, erbjuder examina som kombinerar konst och STEM.

En annan förespråkare för det tvärvetenskapliga tillvägagångssättet är Joseph Aoun, President för Northeastern University i Boston. Han har hävdat att i AI:s tid, högre utbildning borde fokusera på vad han kallar "humanik, "utrusta akademiker med tre nyckelkunskaper:teknisk läskunnighet, datakunskap och mänsklig läskunnighet.

Det är dags att besvara uppmaningen till humaniora kandidater som kan ta sig över till teknikens värld så att vår mänskliga framtid kan bli så ljus som möjligt.

Utan utbildning i etik, mänskliga rättigheter och social rättvisa, de människor som utvecklar den teknik som kommer att forma vår framtid kan fatta dåliga beslut. Och den framtiden kan visa sig vara en av de olyckor vi redan har sett på skärmen.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.