Dataetisk Råd advarer mod bred AI-hjemmel til myndigheder

Offentlige myndigheder står til at få en bredere juridisk ramme for at bruge personoplysninger til udvikling og anvendelse af kunstig intelligens. Men modellen bør genovervejes, mener Dataetisk Råd, som efterlyser skarpere krav til blandt andet kvalitet, borgerrettigheder og menneskelig kontrol.

Kritikken fremgår af rådets høringssvar til et lovforslag, der skal give offentlige myndigheder en bred hjemmel til at behandle personoplysninger i forbindelse med udvikling og anvendelse af AI, herunder systemer til beslutningsstøtte.

Forslaget giver ifølge pressemeddelelsen ikke myndighederne større adgang til at indhente eller dele oplysninger. Det udvider derimod mulighederne for at behandle oplysninger, som myndighederne allerede har adgang til.

Dataetisk Råd peger på, at AI blandt andet kan frigøre ressourcer, forkorte sagsbehandlingstider og øge kvaliteten i den offentlige sektor. Samtidig mener rådet, at anvendelsen kan indebære risiko for fejl, algoritmisk bias og uigennemsigtige vurderinger, når teknologien indgår i beslutninger med betydning for borgerne.

”Det gør en forskel, hvilken opgave et system skal løse, og hvilke konsekvenser en fejl kan få for borgeren. Med en bred hjemmel bliver det vanskeligere at vurdere risiciene og fastsætte betingelser for den konkrete anvendelse,” siger Johan Busse, formand for Dataetisk Råd.

Vil have mere målrettet lovgivning

I stedet for én bred hjemmel anbefaler Dataetisk Råd, at regeringen og Folketinget overvejer lovgivning rettet mod bestemte myndigheder og konkrete anvendelser af AI.

Den model kan ifølge rådet kræve både længere tid og mere lovgivningsarbejde, men vil samtidig gøre det lettere at vurdere fordele og ulemper ved de enkelte anvendelser og fastsætte målrettede krav, inden et AI-system tages i brug.

Hvis politikerne fastholder den brede model, efterlyser rådet fælles retningslinjer og minimumsstandarder for kvalitetssikringen.

Det skal blandt andet gøre det tydeligere, hvordan myndigheder skal vurdere acceptable niveauer af fejl, algoritmisk bias og manglende gennemsigtighed, før et system sættes i drift.

”Fejl, algoritmisk bias og manglende gennemsigtighed er veldokumenterede risici, når myndigheder bruger AI som beslutningsstøtte. Alligevel overlader forslaget i for høj grad håndteringen af dem til den enkelte myndighed. At give en bred hjemmel uden tilstrækkelige fælles retningslinjer for kvalitetssikring er dataetisk stærkt betænkeligt,” siger Johan Busse.

Bekymret for undtagelser fra borgernes rettigheder

Et andet kritikpunkt handler om muligheden for, at ministre kan fastsætte undtagelser fra borgernes databeskyttelsesrettigheder.

Dataetisk Råd anerkender, at det teknisk kan være vanskeligt at sikre eksempelvis indsigt og sletning, når personoplysninger først er blevet anvendt til at udvikle et AI-system.

Men rådet mener, at gevinsten ved det konkrete system skal vejes op mod den begrænsning af borgernes rettigheder, som anvendelsen kan medføre.

”Allerede før borgernes personoplysninger bruges til at udvikle et AI-system, bør vi vurdere, om gevinsten står mål med eventuelle begrænsninger af deres rettigheder. Hvis den ikke gør det, kan konklusionen være, at systemet ikke bør udvikles eller tages i brug,” siger Johan Busse.

Rådet anbefaler derfor, at lovteksten præciserer, at undtagelser skal være nødvendige og proportionale. Samtidig bør det fremgå, hvilke hensyn der kan begrunde undtagelserne, og hvilke rettigheder og situationer der ikke kan omfattes.

Kræver reel menneskelig kontrol

Dataetisk Råd vil også have en tydeligere definition af, hvad beslutningsstøtte betyder, når AI anvendes i den offentlige sektor.

Ifølge rådet må medarbejderens rolle ikke reduceres til en formalitet. Den person, der træffer den endelige beslutning, skal have både kompetence, ansvar og ressourcer til reelt at kunne forholde sig til systemets anbefaling.

Kravet om reel menneskelig stillingtagen er allerede omtalt i bemærkningerne til lovforslaget. Dataetisk Råd anbefaler imidlertid, at det skrives direkte ind i lovens definition. Samtidig ønsker rådet en udtrykkelig præcisering af, at hjemlen ikke omfatter fuldt automatiserede beslutninger.

Rådet anbefaler desuden, at Digitaliseringsstyrelsen udarbejder en dataetisk konsekvensanalyse af lovforslaget.

Dataetisk Råd afgav også høringssvar til en tidligere version af lovforslaget i foråret 2026. Rådets vurdering er, at ændringerne siden da kun i begrænset omfang imødekommer de tidligere anbefalinger.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.