Att skydda medborgarna inför katastrofer kräver ofta långtgående beslut. All hjälp är välkommen – inklusive från AI.

Skogsbränder blir alltmer utom kontroll, som framgår av de senaste händelserna i Kalifornien och Australien. Ändå fortsätter brandmännen att kämpa outtröttligt mot lågorna – och nuförtiden har de mer till sitt förfogande än bara vatten och kontrollerade brännskador. Digitalisering har länge varit en del av deras arsenal i form av geoinformationssystem, webbkameror och drönare. Dessa har blivit nyckelverktyg för att förutsäga och kontrollera skogsbränder, ändå pressar de enorma mängderna data de producerar snabbt mänsklig expertis till dess gränser. "AI är alltid användbart när du har att göra med massor av data, säger Benjamin Scharte, som leder Risk and Resilience Research Team vid ETH Center for Security Studies (CSS). Nyligen, han och hans kollega Kevin Kohler gick ihop för att analysera användningen av AI inom civilskyddet.

"Att kunna använda algoritmer för att göra förutsägelser är ganska spännande, " säger Kohler. Vilken riktning är brandfronten på väg? Var ska vi ställa in nästa kontrollerade brännskador? Genom att krossa all tillgänglig data, AI-baserade modelleringsverktyg kan hjälpa till att svara på dessa frågor. Dessa data kan inkludera väderprognoser, torkans varaktighet, vindriktning – och till och med den potentiella mängden bränsle som finns tillgängligt för branden. De resulterande förutsägelserna kan göra katastrofinsatser mer effektiva. I bästa fall, de kan till och med fungera som en form av förebyggande.

Civilskyddet är särskilt lyhört för användningen av AI eftersom, allt för ofta, det är en fråga om liv och död — och varje minut räknas. Experter förväntas ofta fatta snabba beslut med långtgående konsekvenser, så de är tacksamma för all hjälp som kan underbygga dessa beslut med mer robust data. I sista hand, dock, kvaliteten på ett beslut beror alltid på kvaliteten på uppgifterna. "Hur smart min algoritm än är, det kommer att vara till liten nytta i en nödsituation om jag inte kan förse den med rätt data för katastrofen, " Kohler varnar.

Även data av högsta kvalitet kan aldrig helt ersätta den erfarenhet som experter har fått under många år, så frågan om huruvida en människa eller en maskin ska fatta det slutliga beslutet är mycket komplex. Sammantaget, Algoritmen kan tänkas ge en lägre ekonomisk förlust eller färre offer än sin mänskliga motsvarighet, men den kan också fatta beslut i enskilda fall som vi finner oacceptabla. "Det är klart för mig att vi som ett samhälle, kommer att fortsätta kämpa med tanken att överlåta beslut till autonoma maskiner, säger Scharte.

En fråga om tillit

Så vid vilken tidpunkt kan vi vara villiga att låta en maskin fatta sina egna beslut? Scharte och Kohler är överens om att detta beror på sammanhanget:"Civilskydd är ibland en fråga om liv eller död. Människor bör spela en roll i att fatta dessa beslut – det är inte platsen för maskiner att fatta helt autonoma beslut."

En avgörande faktor är hur stor tro människor har på algoritmen. Förtroende banar väg för acceptans, och båda förbättras när vi tydligt kan följa vad en algoritm gör. Till exempel, när läkare förstår beslutslogiken i en algoritm, de är mer benägna att lita på det och införliva det i sitt arbete. Många studier har bekräftat detta - men Scharte låter en försiktighet:"Öppenhet och förklaring ökar inte alltid säkerheten." Det finns till och med fall där transparens kan vara en nackdel, inklusive risker som skapats av människor som cyberbrottslighet och terrorism. "Om du avslöjar exakt hur en algoritm upptäcker misstänkta beteendemönster, då har motståndare skådespelare bättre chanser att medvetet överlista den, " varnar Scharte.