Användningen av algoritmer i regeringen förändrar hur byråkrater arbetar och fattar beslut inom olika områden, som sjukvård eller straffrätt. Experter tar itu med transparensutmaningarna med att använda algoritmer i beslutsprocesser på makro-, meso-, och mikronivåer i detta specialnummer av Informationspolitik .

Maskininlärningsalgoritmer har en enorm potential för att göra statliga tjänster rättvisare och effektivare och har potentialen att "befria" beslutsfattande från mänsklig subjektivitet, enligt nyare forskning. Algoritmer används i många public service-sammanhang. Till exempel, inom rättssystemet har det visat sig att algoritmer kan förutsäga återfall bättre än domare i brottmål. På samma gång, kritiker lyfter fram flera faror med algoritmiskt beslutsfattande, såsom rasfördomar och bristande transparens.

Vissa forskare har hävdat att införandet av algoritmer i beslutsprocesser kan orsaka djupgående förändringar i hur byråkrater fattar beslut och att algoritmer kan påverka bredare organisatoriska rutiner och strukturer. Detta specialnummer om algoritmtransparens presenterar sex bidrag för att vässa vår konceptuella och empiriska förståelse av användningen av algoritmer i förvaltningen.

"Det har skett en ökning av kritiken mot den "svarta lådan" av algoritmiskt beslutsfattande i regeringen, " förklara gästredaktörerna Sarah Giest (Leidens universitet) och Stephan Grimmelikhuijsen (Utrechts universitet). "I denna specialutgåvasamling, vi visar att det inte räcker att packa upp de tekniska detaljerna för algoritmer, men titta också på institutionella, organisatorisk, och individuella sammanhang inom vilka dessa algoritmer verkar för att verkligen förstå hur vi kan uppnå transparenta och ansvarsfulla algoritmer i regeringen. Till exempel, förordningar kan möjliggöra insynsmekanismer, ändå skapar organisationer nya policyer för hur algoritmer ska användas, och enskilda tjänstemän skapar nya professionella repertoarer. Alla dessa nivåer samverkar och påverkar algoritmisk transparens i offentliga organisationer."

Transparensutmaningarna för användningen av algoritmer överskrider olika myndighetsnivåer – från europeisk nivå till enskilda offentliga byråkrater. Dessa utmaningar kan också ta sig olika uttryck; transparens kan aktiveras eller begränsas av tekniska verktyg såväl som regulatoriska riktlinjer eller organisatoriska policyer. Artiklar i det här numret tar upp transparensutmaningar för algoritmanvändning vid makro-, meso-, och mikronivå. Makronivån beskriver fenomen ur ett institutionellt perspektiv – vilka nationella system, regleringar och kulturer spelar en roll i algoritmiskt beslutsfattande. Meso-nivån uppmärksammar i första hand organisations- och teamnivå, medan mikronivån fokuserar på individuella attribut, såsom övertygelser, motivering, interaktioner, och beteenden.

"Uppmaning att "hålla människor i slingan" kan vara omtvistade frågor om vi misslyckas med att förstå hur algoritmer påverkar mänskligt beslutsfattande och hur algoritmisk design påverkar de praktiska möjligheterna till transparens och mänskligt omdöme, " konstaterar Rik Peeters, forskningsprofessor i offentlig förvaltning vid Center for Research and Teaching in Economics (CIDE) i Mexico City. I en genomgång av nyare akademisk litteratur om dynamiken på mikronivå i algoritmiska system, han diskuterar tre designvariabler som bestämmer förutsättningarna för mänsklig transparens och diskretion och identifierar fyra huvudsakliga källor till variation i "mänsklig-algoritminteraktion".

Artikeln drar två viktiga slutsatser:För det första, mänskliga agenter är sällan helt "utanför slingan, " och nivåer av tillsyn och åsidosättande som utformats i algoritmer bör förstås som ett kontinuum. Den andra hänför sig till begränsad rationalitet, tillfredsställande beteende, automationsbias, och frontlinjens hanteringsmekanismer som spelar en avgörande roll i hur människor använder algoritmer i beslutsprocesser.

För framtida forskning föreslår Dr. Peeters att man tar en närmare titt på beteendemekanismerna i kombination med att identifiera relevanta färdigheter hos byråkrater i att hantera algoritmer. "Utan en grundläggande förståelse för de algoritmer som skärm- och gatunivåbyråkrater måste arbeta med, det är svårt att föreställa sig hur de korrekt kan använda sitt omdöme och kritiskt bedöma algoritmiska procedurer och resultat. Proffs bör ha tillräcklig utbildning för att övervaka de algoritmer som de arbetar med."

På makronivå, Algoritmer kan vara ett viktigt verktyg för att möjliggöra institutionell transparens, skriver Alex Ingrams, Ph.D., Styrning och globala frågor, Institutet för offentlig förvaltning, Leidens universitet, Leiden, Nederländerna. Denna studie utvärderar en maskininlärningsmetod för att öppna offentliga kommentarer för beslutsfattande för att öka institutionell insyn i offentliga kommentarer i en lagstiftande process i USA. Artikeln tillämpar en oövervakad maskininlärningsanalys av tusentals offentliga kommentarer som skickats till USA:s transportsäkerhetsadministration om en föreslagen förordning från 2013 för användning av nya helkroppsavbildningsskannrar på flygplatser. Algoritmen framhäver framträdande ämneskluster i de offentliga kommentarerna som kan hjälpa beslutsfattare att förstå öppna offentliga kommentarersprocesser. "Algorithmer bör inte bara vara föremål för transparens utan kan också användas som ett verktyg för transparens i statligt beslutsfattande, " kommenterar Dr. Ingrams.

"Regleringssäkerhet i kombination med organisatorisk och ledningsförmåga kommer att driva hur tekniken utvecklas och används och vilka transparensmekanismer som finns på plats för varje steg, " notera gästredaktörerna. "I och för sig är det här större frågor att ta itu med när det gäller att utveckla och anta lagar eller tillhandahålla utbildning och vägledning för offentliga chefer och byråkrater. Det faktum att de är kopplade försvårar denna process ytterligare. Att lyfta fram dessa kopplingar är ett första steg mot att se den större bilden av varför transparensmekanismer införs i vissa scenarier och inte i andra och öppnar dörren till jämförande analyser för framtida forskning och nya insikter för beslutsfattare. För att förespråka en ansvarsfull och transparent användning av algoritmer, framtida forskning bör undersöka samspelet mellan mikro-, meso-, och dynamik på makronivå."

"Vi är stolta över att presentera detta specialnummer, det 100:e numret av Informationspolitik . Dess fokus på styrning av AI visar vår fortsatta önskan att ta itu med samtida frågor inom e-förvaltning och vikten av att visa upp utmärkt forskning och de insikter som erbjuds av informationspolitiska perspektiv, " lägg till professor Albert Meijer (Utrecht University) och professor William Webster (University of Stirling), Chefredaktörer.