Det råder ingen brist på kritik som rör användningen av AI i offentliga beslutsprocesser. Forskare har till exempel beskrivit algoritmer som en "giftig cocktail för demokratin" genom att peka på den ständigt växande tillgången på big data som kan manipuleras för att påverka den offentliga diskursen i specifika (problematiska) riktningar. Kan vi vända på argumentet och göra ett argument för att utnyttja potentialen hos digital teknik för att öka kvaliteten på demokratin i tider av skenande populism? Vi kan faktiskt ta till demokratiska teorier som bygger på rena inputramar för att omfatta den komplexa dimensionen av både politiska processer och policyskapande.

Låt oss försöka tillhandahålla en icke uttömmande klassificering genom att titta på stegen i beslutsfattande och beslutsfattande. I samband med offentligt beslutsfattande kan algoritmer fungera på flera sätt. AI kan:a) representera världen genom att till exempel ge demografisk data proxy; b) förutsäga eller testa önskvärdheten av ett visst tillvägagångssätt mot bakgrund av de resultat som den senare kan fastställa, såsom riskbedömning av invandringsfängelse; c) fatta ett beslut, i allmänhet på antagandet om den inneboende tillförlitligheten hos resultatet och/eller effektiviteten av processen, genom att till exempel välja ut personer som kommer att dra nytta av ett tilldelningsbeslut som hade fattats inom den traditionella politiska processen; och d) agera som en algoritmhanterare genom att övervaka och kontrollera offentliga tjänstemän som måste fatta komplexa beslut.

I vart och ett av dessa scenarier spelar algoritmer olika roller. Representations- och prediktionsfunktioner innebär att algoritmer kan ge beslutsfattare korrekt information om ett givet politiskt alternativ. Algoritmer ersätter därför inte politiska val, utan skapar istället förutsättningar för att ett politiskt alternativ kan konfronteras med konkreta output. Urvalsfunktionen använder algoritmer för att påskynda procedurer som annars skulle kräva noggrann och långvarig undersökning. Algoritmer kan därmed säkerställa effektiviteten i den selektiva processen och konsekvensen i resultaten. I scenarierna som avbildas ovan under c) och d) fattar algoritmen beslut istället för den beslutsfattare som identifieras via den ordinarie politiska processen.

Mot denna bakgrund är algoritmiskt beslutsfattande olämpligt för någon av dessa uppgifter om det förväntas fatta väsentliga beslut oberoende. Däremot kan AI stärka demokratiska processer om vissa villkor för dess korrekta funktion iakttas. I synnerhet, genom att ta upp logiken bakom demokratisk legitimitet, kan vi dra slutsatsen att AI behöver kopplas till behovet av 1) förståelse och urval av medborgerliga frågor som förtjänar att tas upp av politiska institutioner; 2) kontrollera vilka frågor som når de demokratiska institutionerna; 3) utvärdera och utmana resultaten av ett givet förlopp av ett beslut fattat av eller på grund av en AI. Algoritmer kan med andra ord öka den demokratiska legitimiteten i tider av skenande populism, förutsatt att deras användning sker inom en ram som maximerar politisk jämlikhet och rationellt beslutsfattande genom att möjliggöra ett bredare deltagande, övervägande av olika sociala frågor och tillsyn över de beslut som fattas.

Under dessa förhållanden avslöjar effektiviteten och representationen av verkligheten som en algoritmisk process kan producera den populistiska retorikens villfarelser eller den "enkla sanningen". Algoritmiskt beslutsfattande är inte bra eftersom resultatet i sig är pålitligt. Det är bra så länge det är inbäddat i en demokratisk ram som gör det möjligt för både representerade och företrädare att utöva val och kontroll över beslutsprocessen. På så sätt kan algoritmer avslöja den populistiska retoriken genom att vara ett kunskapsinstrument och därför ett verktyg för att läsa verkligheten och hjälpa till att lösa dess problem. + Utforska vidare

Att förutsäga patienternas ras kan förbättra rättvisa i sjukvården, säger ny analys