Brandvæsenet bruger AI til vurderinger, og det rejser spørgsmål

Kunstig intelligens er ved at finde vej ind i det danske beredskab, og det sker hurtigere end mange nok er klar over. Ifølge en debat der er blusset op online, bruger dele af brandvæsenet allerede AI-baserede systemer til at vurdere og prioritere opgaver. Spørgsmålet er, om teknologien er moden nok til den slags ansvar.

Hvad AI bruges til

AI i beredskabet kan bruges til alt fra at prioritere nødopkald til at vurdere risikoen ved en given indsats. Det lyder fornuftigt i teorien. Algoritmer kan behandle store datamængder hurtigere end mennesker og potentielt identificere mønstre, der ellers ville blive overset.

Men der er et men. AI-systemer trænes på historisk data, og hvis den data er skæv, bliver beslutningerne det også. I USA har man set eksempler på, at AI-systemer i sundhedssektoren systematisk undervurderede behovet hos bestemte befolkningsgrupper, simpelthen fordi de historiske data afspejlede eksisterende uligheder.

EU-regulering på vej

EU har med sin AI Act klassificeret visse anvendelser af AI som højrisiko, herunder systemer der bruges til at evaluere og prioritere nødopkald. Det betyder, at de skal leve op til skrappere krav omkring gennemsigtighed, datasikkerhed og menneskelig kontrol.

Digitaliseringsstyrelsen er udpeget som national tilsynsmyndighed for AI-forordningens implementering i Danmark, og de strengeste regler træder i kraft fra august 2026.

Mennesker i maskinernes tid

Ingen betvivler, at AI kan effektivisere beredskabet. Spørgsmålet er balancen mellem automatisering og menneskelig vurdering. Når det handler om situationer, der potentielt involverer menneskeliv, er marginen for fejl nul. Og selv den bedste algoritme kan ikke erstatte den erfaring og intuition, som en trænet beredskabsperson bringer med sig.

Debatten handler i bund og grund om tillid. Stoler du på, at en algoritme vurderer din nødsituation korrekt? Mange danskere er ikke overbeviste endnu, og det er måske fornuftigt nok.