Advarer mod intelligente robotter på jobcentrene: ”Kan indeholde tonsvis af fejl”
Det kan gå ud over borgernes retssikkerhed, når robotter og anden kunstig intelligens rykker ind i landets jobcentre, lyder advarslen fra lektor i digital forvaltning. (Foto: Foto: Søren Bidstrup / Scanpix)
OBS: DETTE ER EN ARTIKEL FRA SOCIALRÅDGIVEREN Regeringen vil bruge kunstig intelligens i jobcentrene, og kommunerne er allerede i gang med at udvikle robotter, der kan foreslå indsatser til ledige. Men forskere advarer om, at robotterne i praksis kan ende med at træffe dårlige og decideret forkerte afgørelser.

Denne artikel er en del af et tema i fagbladet Socialrådgiveren og bliver publiceret på Avisen.dk som en del af et samarbejde. Artiklen er redaktionelt udvalgt og bearbejdet af den jourhavende på Avisen.dk.

Den offentlige sektor skal anvende kunstig intelligens til at tilbyde service i verdensklasse. Den ambition præsenterede regeringen, og et af de steder, hvor innovationsminister Sophie Løhde (V) drømmer om at bruge kunstig intelligens, er på jobcentrene.

Men det kan gå ud over borgernes retssikkerhed, vurderer Hanne Marie Motzfeldt, der er lektor i digital forvaltning ved Københavns Universitet.

- De her teknologier kommer, og vi er naive, hvis vi ikke indser, at de kan indeholde tonsvis af fejl, som det er stort set umuligt at få rettet, siger hun.

På baggrund af den data, som kommunen har om borgeren, skal de intelligente robotter komme med forslag til sagsbehandlerne i jobcenteret. Men Hanne Marie Motzfeldt er bekymret for, at de intelligente robotter i realiteten vil komme til at træffe afgørelser og ikke kun komme med forslag.

- Det bliver meget svært for socialrådgiverne at gå imod algoritmens anbefaling, og det vil blive forventet af ledelserne, at socialrådgiverne arbejder langt hurtigere, når disse redskaber kommer – og det vil ikke give tid til at kontrollere, om anbefalingerne giver mening i den enkelte sag, siger hun.

Algoritmer er computerprogrammer, som lærer af den information den bliver fodret med, og derefter tilpasser sig. Den udfører altså ikke bare den ordre, som et menneske beder den om, men bliver så at sige hele tiden ’klogere’. Brugen af algoritmer kaldes også Machine Learning.

Data viser ikke det hele menneske

Bekymringen om, at de intelligente robotter ikke kun kommer med anbefalinger, men i praksis ender med at træffe afgørelser, deler Helle Antczak. Hun er lektor på Institut for Socialt Arbejde på Københavns Professionshøjskole og har undersøgt kommunernes brug af intelligente robotter.

Og tendensen er klar, brug af kunstig intelligens i sagsbehandlingen på det sociale område er på vej.

- Flere af landets store kommuner udvikler ideer til algoritmisk baserede systemer, der kan levere beslutningsstøtte til sagsbehandlere, når de skal afgøre, hvilken hjælp udsatte børn, unge og voksne skal have. Der er grund til at frygte, at hvis vi får sådan nogle systemer, så vil sagsbehandlerne have en tendens til at læne sig stærkt op ad deres forslag, siger hun.

Derudover er it-giganten KMD sammen med Københavns Universitet og ITU i gang med at udvikle systemet EcoKnow, som blandt andet skal kunne komme med anbefalinger til indsatsen for ledige. Et projekt som Dansk Socialrådgiverforening er inviteret med i for at sikre socialfaglighed, etik og borgerens retssikkerhed.

Næstformand i socialrådgiverforeningen, Ditte Brøndum, advarer imod at tro, at man kan få et indtryk af det hele menneske ved at køre data om personen igennem en algoritme.

- Alt det vi socialrådgivere ser i et møde med borgeren, alle de lyde, lugte og sanseindtryk, som gør, at vi instinktivt laver en vurdering af den borger, vi møder, det er altså svært at putte ind i en robot. Hvis vi så får en anbefaling fra en robot, bliver det svært for socialrådgiveren at sige, at jeg er uenig, for det var et andet indtryk jeg fik, da jeg mødte borgeren, siger hun.

Skal ikke erstatte mødet med det andet menneske

En af de kommuner, der er langt med at udvikle Machine Learning som værktøj, er København. Det er godt nok ikke på beskæftigelsesområdet, men i Socialforvaltningen, hvor man er ved at undersøge, om Machine Learning kan bruges til at understøtte sagsbehandlernes beslutninger ved at komme med anbefalinger til indsatser for udsatte børn.

Borgercenterchef Anne Steenberg understreger, at det altid vil være et menneske, der træffer myndighedsbeslutningen.

- Da vi arbejder med en kompleks og sårbar målgruppe, kan digitalisering selvfølgelig ikke erstatte det individuelle skøn og den socialfaglige vurdering, som fører op til en konkret afgørelse. Den subjektive vurdering, den faglige analyse samt mødet med det andet menneske kan og skal digitaliseringen ikke erstatte, siger hun.

via Listen To News