Dataetisk Råd advarer mod bred hjemmel til offentlig brug af AI
Kunstig intelligens kan både frigøre ressourcer og forkorte sagsbehandlingstider i den offentlige sektor. Men teknologien kan også føre til fejl, algoritmisk skævhed og uigennemsigtige vurderinger, når den bruges til at understøtte beslutninger om borgere.
Derfor opfordrer Dataetisk Råd regeringen og Folketinget til at genoverveje et lovforslag, der skal give offentlige myndigheder bred hjemmel til at behandle personoplysninger med henblik på at udvikle og anvende AI.
Forslaget giver ikke myndighederne adgang til at indhente eller dele flere oplysninger, men udvider muligheden for at behandle oplysninger, som de allerede har adgang til.
Rådets formand, Johan Busse, mener, at lovgivningen i stedet bør give tilladelse til konkrete AI-anvendelser hos bestemte myndigheder.
”Det gør en forskel, hvilken opgave et system skal løse, og hvilke konsekvenser en fejl kan få for borgeren. Med en bred hjemmel bliver det vanskeligere at vurdere risiciene og fastsætte betingelser for den konkrete anvendelse,” siger Johan Busse, formand for Dataetisk Råd.
Hvis politikerne fastholder en bred hjemmel, anbefaler rådet fælles minimumsstandarder for kvalitetssikring. Myndighederne skal blandt andet have klare rammer for, hvor mange fejl og hvor stor algoritmisk skævhed der kan accepteres, før et system tages i brug.
Rådet advarer også mod, at ministre får mulighed for at indføre undtagelser fra borgernes databeskyttelsesrettigheder uden tilstrækkeligt tydelige grænser. Eventuelle undtagelser bør være nødvendige og proportionale.
Samtidig skal medarbejdere have kompetencer, ansvar og ressourcer til selv at træffe den endelige beslutning. Rådet ønsker derfor, at kravet om reel menneskelig stillingtagen skrives direkte ind i loven, og at fuldt automatiserede beslutninger ikke omfattes af hjemlen.
Endelig anbefaler rådet, at Digitaliseringsstyrelsen udarbejder en dataetisk konsekvensanalyse af lovforslaget.
Faktaboks: Dataetisk Råds anbefalinger
Genovervej en bred hjemmel til offentlig brug af AI.
Overvej i stedet tilladelser til konkrete AI-anvendelser.
Indfør fælles minimumsstandarder for kvalitetssikring.
Sæt tydelige grænser for undtagelser fra databeskyttelsesrettigheder.
Sikr reel menneskelig kontrol med beslutningsstøtte.
Udeluk fuldt automatiserede beslutninger fra den foreslåede hjemmel.
Lad Digitaliseringsstyrelsen udarbejde en dataetisk konsekvensanalyse.
Accepter kun nødvendige cookies