I takt med att artificiell intelligens blir mer överallt kommer dess potential och de utmaningar den ger alltmer i fokus. Hur vi balanserar risker och möjligheter håller på att formas som en av vår tids avgörande frågor. På ungefär samma sätt som städer har dykt upp som nav för innovation inom kultur, politik och handel, så de definierar gränserna för AI-styrning.

Några exempel på hur städer har tagit ledningen inkluderar Cities Coalition for Digital Rights, Montreal-deklarationen för ansvarsfull AI och den öppna dialogen om AI-etik. Andra kan hittas i San Franciscos förbud mot ansiktsigenkänningsteknik och New York Citys strävan att reglera försäljningen av automatiserade anställningssystem och skapa en algoritmhanterings- och policyansvarig. Urbana institut, universitet och andra utbildningscentra har också gått framåt med en rad AI-etiska initiativ.

Dessa ansträngningar pekar på ett framväxande paradigm som har kallats AI Localism. Det är en del av ett större fenomen som ofta kallas New Localism, som innebär att städer tar ledningen i reglering och policyskapande för att utveckla kontextspecifika tillvägagångssätt för en mängd olika problem och utmaningar. Vi har också sett ett ökat upptagande av stadscentrerade tillvägagångssätt inom folkrättsliga ramar.

Genom att göra det fyller kommunala myndigheter luckor som lämnats av otillräckliga statliga, nationella eller globala ramverk för förvaltning relaterade till AI och andra komplexa frågor. De senaste åren har till exempel sett uppkomsten av "bredbandslokalism", där lokala myndigheter tar itu med den digitala klyftan; och "privatlivslokalism", båda som svar på utmaningar från den ökade användningen av data för brottsbekämpning eller rekrytering.

AI-lokalism omfattar en mängd olika frågor, intressenter och sammanhang. Förutom förbud mot AI-driven ansiktsigenkänning tittar lokala myndigheter och institutioner på upphandlingsregler som hänför sig till AI-användning av offentliga enheter, offentliga register över lokala myndigheters AI-system och offentliga utbildningsprogram om AI. Men även när initiativ och fallstudier förökar sig, saknar vi fortfarande en systematisk metod för att bedöma deras effektivitet – eller till och med själva behovet av dem. Detta begränsar beslutsfattares förmåga att utveckla lämplig reglering och hämmar mer allmänt tillväxten inom området.

Bygga ett AI Localism-ramverk

Nedan finns tio principer som hjälper oss att systematisera vårt förhållningssätt till AI-lokalism. Sammantaget utgör de ett begynnande ramverk för att implementera och utvärdera initiativ runt om i världen:

• Principer ger en nordstjärna för styrning: Att etablera och formulera en tydlig uppsättning vägledande principer är en viktig utgångspunkt. Till exempel är Emerging Technology Charter för London, som lanserades av borgmästarkontoret 2021 för att skissera "praktiska och etiska riktlinjer" för forskning kring framväxande teknologi och piloter inom smart-city-teknik, ett exempel. Liknande projekt finns i Nantes, Frankrike, som rullade ut en datacharter för att understryka den lokala regeringens engagemang för datasuveränitet, skydd, transparens och innovation. Sådana ansträngningar hjälper intresserade parter att lägga ut en kurs som effektivt balanserar potentialen och utmaningarna med AI samtidigt som de bekräftar ett engagemang för öppenhet och insyn i dataanvändning för allmänheten.
• Offentligt engagemang ger en social licens: Att etablera förtroende är avgörande för att främja ansvarsfull användning av teknik samt bredare acceptans och upptagande av allmänheten. Former av offentligt engagemang – crowdsourcing, informationskampanjer, miniförsamlingar och mer – kan bidra till att bygga förtroende och bör vara en del av en överläggningsprocess som genomförs av beslutsfattare. Till exempel höll California Department of Fair Employment and Housing sin första virtuella offentliga utfrågning med medborgare och arbetargrupper om den växande användningen av AI vid anställning och mänskliga resurser, och potentialen för teknisk fördom i upphandling.
• AI-kunskap möjliggör meningsfullt engagemang: Målet med AI-läskunnighet är att uppmuntra till förtrogenhet med själva tekniken samt med tillhörande etiska, politiska, ekonomiska och kulturella frågor. Till exempel, Montreal AI Ethics Institute, en ideell organisation fokuserad på att förbättra AI-läserlighet, tillhandahåller gratis, snabb och lättsmält information om AI och AI-relaterade händelser från hela världen.
• Ta nytta av lokal expertis: Politiker bör utnyttja städernas AI-expertis genom att etablera eller stödja forskningscentra. Två exempel är Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE), ett pan-europeiskt projekt som tar europeiskt fokus på AI-användning i städer och "How Busy Is Toon", en webbplats utvecklad av Newcastle City Council och Newcastle University för att tillhandahålla kollektivtrafikinformation i realtid om stadens centrum.
• Innovera i hur transparens tillhandahålls: För att bygga förtroende och främja engagemang bör AI Localism omfatta beprövade transparensprinciper och praxis. Amsterdam och Helsingfors avslöjar till exempel AI-användning och förklarar hur algoritmer används för specifika ändamål. Dessutom kan AI Localism förnya sig i hur transparens tillhandahålls, skapa medvetenhet och system för att identifiera och övervinna "AI-blinda fläckar" och andra former av omedveten fördom.
• Etablera metoder för ansvarsskyldighet och tillsyn: En av signalegenskaperna hos AI Localism är ett erkännande av behovet av ansvarsskyldighet och tillsyn för att säkerställa att principerna för lyhörd styrning följs. Exempel inkluderar New York Citys algoritmhanterings- och policyansvarige, Singapores rådgivande råd för etisk användning av AI och data och Seattles rådgivande arbetsgrupp för övervakning.
• Signalgränser genom bindande lagar och policyer: Principer är bara så bra som de implementeras eller tillämpas. Ratifierande lagstiftning, såsom New York Citys Biometrics Privacy Law, som kräver tydliga meddelanden om att biometrisk data samlas in av företag, begränsar hur företag kan använda sådan data. Det förbjuder också att sälja och dra nytta av data skickar ett tydligt budskap till konsumenterna att deras datarättigheter och skydd upprätthålls och håller företag ansvariga för att respektera integritetsprivilegier.
• Använd upphandling för att forma ansvarsfulla AI-marknader: Som kommunala och andra regeringar har gjort inom andra områden av det offentliga livet, bör städer använda upphandlingspolicyer för att uppmuntra ansvarsfulla AI-initiativ. Till exempel antog Berkeley, California Council en förordning som kräver att offentliga avdelningar motiverar användningen av ny övervakningsteknik och att fördelarna med dessa verktyg uppväger skadorna före upphandling.
• Etablera datasamarbeten för att hantera asymmetrier: Datasamarbeten är en framväxande form av intersektoriellt partnerskap, där privata data återanvänds och distribueras till allmännyttan. Förutom att ge nya insikter och innovationer kan sådana partnerskap också vara kraftfulla verktyg för att bryta ned de dataasymmetrier som både ligger bakom och driver så många bredare socioekonomiska ojämlikheter. Att uppmuntra datasamarbete, genom att identifiera möjliga partnerskap och matcha utbud och efterfrågan, är därför en viktig komponent i AI-lokalism. De första ansträngningarna inkluderar Amsterdam Data Exchange, som gör det möjligt att dela data på ett säkert sätt för att hantera lokala problem.
• Gör en god förvaltning strategisk: Alltför många AI-strategier inkluderar inte styrning och för många styrmetoder är inte strategiska. Det är därför absolut nödvändigt att städer har en tydlig vision om hur de ser att data och AI används för att förbättra det lokala välbefinnandet. Att kartlägga en AI-strategi, som genomfördes av Barcelonas kommunfullmäktige 2021, kan skapa vägar för att integrera smart AI-användning mellan byråer och öppna upp AI-medvetenhet för invånarna för att göra ansvarsfull dataanvändning och överväganden till en röd tråd snarare än en tyst övning inom lokala regeringen.

AI-lokalism är ett framväxande område, och både dess praktik och forskning är fortfarande i förändring. Tekniken i sig fortsätter att förändras snabbt och erbjuder något av ett rörligt mål för styrning och reglering. Dess flöde framhäver behovet av den typ av ramverk som beskrivs ovan. I stället för att spela ikapp, reagera reaktivt på successiva vågor av teknisk innovation, kan beslutsfattare svara mer konsekvent och ansvarsfullt, från en principiell grund som tar hänsyn till de ofta konkurrerande behoven hos olika intressenter. + Utforska vidare

För att bygga hållbara städer, involvera dem som bor i dem

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.