Dataetisk Råd advarer mod et lovforslag, der skal gøre det lettere for offentlige myndigheder at udvikle og bruge kunstig intelligens.
Rådet efterlyser bedre kontrol og større beskyttelse af borgernes oplysninger og rettigheder.
Offentlige myndigheder kan få større frihed til at bruge kunstig intelligens (AI), men reglerne risikerer at blive for brede. Det advarer Dataetisk Råd om i et høringssvar til et nyt lovforslag.
Forslaget skal gøre det muligt for myndigheder at bruge personoplysninger, de allerede har adgang til, til at udvikle og anvende AI. Teknologien kan blandt andet hjælpe medarbejdere med at træffe beslutninger. Men ifølge rådet mangler der klare regler for, hvordan myndighederne skal undgå fejl og sikre borgernes rettigheder.
- Det gør en forskel, hvilken opgave et system skal løse, og hvilke konsekvenser en fejl kan få for borgeren, siger Johan Busse, formand for Dataetisk Råd.
Mennesker skal have sidste ord
Rådet understreger, at AI ikke må overtage beslutningerne fra medarbejderne. En offentlig ansat skal fortsat kunne vurdere oplysningerne selv og træffe den endelige beslutning.
Samtidig advarer rådet mod, at ministre får mulighed for at begrænse borgernes rettigheder til blandt andet indsigt i og sletning af personoplysninger. Dataetisk Råd anbefaler derfor, at politikerne genovervejer lovforslaget og i stedet fastsætter regler for konkrete myndigheder og bestemte måder at bruge AI på.
Hvis lovforslaget fastholdes, bør der som minimum indføres fælles krav til kontrol og kvalitet, mener rådet.