I mitten av juli 2019, Oakland, Kalifornien, blev den tredje staden i USA som förbjöd kommunala avdelningar att använda teknik för ansiktsigenkänning. Under tiden, Kongressen började utfrågningar om huruvida och hur man reglerar det på nationell nivå. I ett överraskande ögonblick av tvåpartskonsensus, det enda lagstiftarna bråkade om var hur omfattande restriktioner borde vara.

Detta svar på en kraftfull, potentiellt invasiv teknologi är ett tecken på hur allmänheten och beslutsfattare kan reagera på framtida tekniska utvecklingar – särskilt de som använder artificiell intelligens. Inte bara gör ansiktsigenkänning det möjligt för Facebook att automatisera folktaggning i foton, men det ökar också brottsbekämpningens förmåga att spåra brottsmisstänkta. Etiska frågor finns i överflöd. Som Georgetowns Center on Privacy and Technology uttryckte det, ansiktsigenkänning kan leda till "en värld där, när du väl satt din fot utanför, regeringen kan spåra varje steg." Och det är bara början.

I horisonten finns en översvämning av digitala innovationer som kan vara minst lika kraftfulla, omfattande och kontroversiella:"deepfake" videor som visar människor som gör saker de aldrig gjort, "sakernas internet" övervakar ständigt privata hem, manipulativ virtuell verklighet, självkörande bilar överväldigande samhällen och mer.

Jag är en forskare som studerar digital tekniks samhälleliga effekter, och det är mitt jobb att hålla mig informerad om kommande teknologier och att projicera framtida resultat. Men, med mer och mer innovation, det blir allt mindre tid att reflektera över konsekvenserna. Många av mina kollegor känner likadant.

För att tämja denna forsande tidvatten, samhället behöver dammar och vallar. Precis som det har börjat hända med ansiktsigenkänning, det är dags att överväga lagliga förbud och moratorier för andra framväxande teknologier. Dessa behöver inte vara permanenta eller absoluta, men innovation är inte ett obegränsat gott. Ju kraftfullare en teknik är, desto mer omsorg krävs för att fungera säkert.

Lite brådska

Det finns inget akut behov av de flesta nya digitala tekniker. Några innovationer, självklart, är nästan helt positiva:anestesi, elektriskt ljus, radio, vacciner. Men dagens samhälle hyllar ofta innovation för sin egen skull, även när fördelarna är tveksamma – och fler och fler, fördelarna är verkligen tveksamma.

Är det verkligen värt ett trångt, surrande himmel fylld med drönare för att få en timmes leverans av konsumentvaror, istället för leverans på 24 timmar, eller till och med två dagar? Är virtuell verklighet så stor att barn borde, effektivt, växa upp med ögonen klistrade vid videoskärmar? När regeringar kan utföra svårspåriga mord med drönare, är någon verkligen säker? Att skanna listor över möjlig framtida teknik kan väcka mer rädsla än hopp.

Dessa typer av innovationer misslyckas upprepade gånger med att ge övergripande förbättringar på verkligt meningsfulla sätt, som hur djupt människor älskar varandra, hur medkännande människor bryr sig, hur väl samhället stöder de mindre privilegierade, eller hur klokt människor förvaltar planeten. Om något, Tekniken verkar förstärka människors moraliska svagheter genom att skämma bort människor med konsumentkomfort och ekokammare. Det senaste halvseklet har sett en guldålder av digital innovation, men fattigdomen har stagnerat, ojämlikheten har skjutit i höjden och hållbarhet verkar längre utom räckhåll.

De flesta av de tekniska framstegen som görs idag kommer inte att ta itu med dessa problem; de kommer att hantera mindre irritationsmoment som det helt enkelt inte är någon brådska att lindra.

Skadar nästan säkert, men oklart

Ny teknik har alltid oavsiktliga konsekvenser – ofta negativa – och innovatörer underskattar alltid hur dåliga de kommer att bli. Bekämpningsmedel har orsakat gissel för folkhälsan. Plastflaskor har förorenat haven. Smartphones bidrar till en psykisk kris för tonåringar.

Fundera på vad ett AI-system kan göra om det uppmanas att göra något uppenbart – som att maximera vinsten, använda all information och verktyg som står till dess förfogande. Det kan innehålla pinsam personlig information som lösen för att tvinga användare att köpa varor, eller utpressa kriminella handlingar från människor med mörkare hemligheter.

Inget har ännu hindrat nätbutikernas algoritmer från att ljuga för att öka försäljningen, inte heller dämpa Facebooks faktiska förmåga att manipulera användarnas humör. Teknikföretag behandlar rutinmässigt sina kunder som experimentella marsvin, och tillämpar redan artificiell intelligens för en rad olika ändamål.

Om dessa bara är de kända effekterna av teknikföretag; insatser och innovationer, föreställ dig vilka oavsiktliga konsekvenser som kan lura. Utgångspunkten för det populära spelet "Universal Paperclips" är att en AI fokuserad på att optimera ett företag slutar med att förstöra det kända universum. Science fiction håller snabbt på att bli science fact.

Svårt att gå baklänges

Väl släppt lös, digital teknik är särskilt svåra genier att sätta tillbaka i flaskan. I det här avseendet, de skiljer sig från andra avancerade teknologier. Strax efter andra världskriget, aktivister började efterlysa förbud mot kärnvapen, som kulminerade i icke-spridningsfördraget 1970. Fördraget har varit effektivt för att hålla en 80 år gammal teknologi begränsad till bara åtta eller nio länder – det är en imponerande bedrift, särskilt över den taggiga historien om global politik.

Kärnvapen, dock, kräver betydande resurser för att designa, bygga, testa och distribuera. Däremot digital teknik är lätt att dela, gör dem ännu svårare att kontrollera. Avancerade hackverktyg har stulits och delats online:Tekniker som utvecklats av U.S.National Security Agency har använts i globala cyberattacker av Kina, Ryssland och Nordkorea. Deras programvara är nu tillgänglig för alla som har en internetanslutning.

En maktobalans

Teknikföretag som driver sina framsteg har pengar, inflytande och tid på deras sida. De miljoner lobbyingdollar de spenderar är fickbyte jämfört med deras vinster på flera miljarder dollar, och de kan hålla finansieringen igång på obestämd tid, väntar ut nyhetscykler och aktivistisk energi.

Från min synvinkel, osäkerhet om hur ny teknik kommer att påverka samhället totalt sett gör att skeptiska krafter förtjänar mer stöd. Förbud och moratorier skulle innebära att rika, mäktiga enheter skulle behöva söka juridiskt och samhälleligt tillstånd innan de släpper lös sina potentiella monster på marknaden. Det verkar inte vara för mycket begärt.

Det finns många skäl att fortsätta bygga ny teknik – att förbli globalt konkurrenskraftig, att föra fram mänsklig kunskap och förbereda sig för potentiella framtida kriser. Tekniken har sina fördelar. Men att sakta ner takten i dess framsteg skulle ge samhället mer tid att tänka igenom konsekvenserna och diskutera vilka aspekter av ny teknik som är önskvärda, och som borde förbjudas.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.