Der er trådt nye krav i kraft, som skal sikre, at borgere ved, når de er i kontakt med kunstig intelligens frem for et menneske. Reglerne udspringer af EU's AI-forordning, AI Act, og får særlig betydning for kommuner og regioner, der i stigende grad bruger chatbots og andre AI-systemer i borgerbetjeningen.
Kernen i de nye regler er gennemsigtighed. Hvis en kommune eller region anvender en chatbot eller et andet AI-system i direkte kommunikation med borgerne, skal det tydeligt fremgå, at borgeren står over for en maskine og ikke en medarbejder af kød og blod. Formålet er at undgå, at borgere føres bag lyset eller træffer beslutninger på et forkert grundlag, oplyser HK.
Gælder flere områder
Ansvaret for at mærke AI-kommunikationen ligger som udgangspunkt hos udbyderen af systemet. Det kan være den private leverandør, men i mange tilfælde vil det være kommunen eller regionen selv, der skal sørge for, at mærkningen er på plads.
Reglerne omfatter mere end tekstsvar fra chatbots. AI-genererede billeder, lyd og video skal også mærkes, hvis de kan fremstå som ægte og forestiller virkelige personer, genstande, steder eller begivenheder. Det skal blandt andet forhindre, at manipulerede eller syntetiske optagelser bliver forvekslet med autentisk materiale.
For tekster gælder et mere nuanceret krav. AI-genererede tekster om emner af offentlig interesse skal mærkes, hvis de offentliggøres uden reel menneskelig gennemgang eller kontrol. Til gengæld er der ikke krav om mærkning, hvis en tekst er fagligt gennemgået og underlagt redaktionelt ansvar. Dermed lægger reglerne vægt på, om et menneske reelt har kvalitetssikret indholdet, før det når borgeren.
Ledelsen skal på banen
For de offentlige arbejdspladser betyder de nye krav, at ledelsen skal på banen, mener HK. Kommuner og regioner skal sikre klare retningslinjer, godkendte løsninger, oplæring af medarbejderne og en tydelig ansvarsfordeling. Ansvaret kan ikke skubbes ned på den enkelte medarbejder, der bruger et AI-værktøj i sit daglige arbejde.
HK Kommunal har udsendt en vejledning til sine medlemmer om, hvad reglerne betyder i praksis. Fagforbundet peger på, at der skal være godkendte systemer og klare rammer, så medarbejderne ved, hvornår og hvordan de må bruge AI i mødet med borgerne.