Administration 

Advarer mod intelligente robotter på jobcentrene: ”Kan indeholde tonsvis af fejl”

Det kan gå ud over borgernes retssikkerhed, når robotter og anden kunstig intelligens rykker ind i landets jobcentre, lyder advarslen fra lektor i digital forvaltning. (Foto: Foto: Søren Bidstrup / Scanpix)

OBS: DETTE ER EN ARTIKEL FRA SOCIALRÅDGIVEREN Regeringen vil bruge kunstig intelligens i jobcentrene, og kommunerne er allerede i gang med at udvikle robotter, der kan foreslå indsatser til ledige. Men forskere advarer om, at robotterne i praksis kan ende med at træffe dårlige og decideret forkerte afgørelser.

Denne artikel er en del af et tema i fagbladet Socialrådgiveren og bliver publiceret på Avisen.dk som en del af et samarbejde. Artiklen er redaktionelt udvalgt og bearbejdet af den jourhavende på Avisen.dk.

Den offentlige sektor skal anvende kunstig intelligens til at tilbyde service i verdensklasse. Den ambition præsenterede regeringen, og et af de steder, hvor innovationsminister Sophie Løhde (V) drømmer om at bruge kunstig intelligens, er på jobcentrene.

Men det kan gå ud over borgernes retssikkerhed, vurderer Hanne Marie Motzfeldt, der er lektor i digital forvaltning ved Københavns Universitet.

- De her teknologier kommer, og vi er naive, hvis vi ikke indser, at de kan indeholde tonsvis af fejl, som det er stort set umuligt at få rettet, siger hun.

På baggrund af den data, som kommunen har om borgeren, skal de intelligente robotter komme med forslag til sagsbehandlerne i jobcenteret. Men Hanne Marie Motzfeldt er bekymret for, at de intelligente robotter i realiteten vil komme til at træffe afgørelser og ikke kun komme med forslag.

- Det bliver meget svært for socialrådgiverne at gå imod algoritmens anbefaling, og det vil blive forventet af ledelserne, at socialrådgiverne arbejder langt hurtigere, når disse redskaber kommer – og det vil ikke give tid til at kontrollere, om anbefalingerne giver mening i den enkelte sag, siger hun.

Algoritmer er computerprogrammer, som lærer af den information den bliver fodret med, og derefter tilpasser sig. Den udfører altså ikke bare den ordre, som et menneske beder den om, men bliver så at sige hele tiden ’klogere’. Brugen af algoritmer kaldes også Machine Learning.

Data viser ikke det hele menneske

Bekymringen om, at de intelligente robotter ikke kun kommer med anbefalinger, men i praksis ender med at træffe afgørelser, deler Helle Antczak. Hun er lektor på Institut for Socialt Arbejde på Københavns Professionshøjskole og har undersøgt kommunernes brug af intelligente robotter.

Og tendensen er klar, brug af kunstig intelligens i sagsbehandlingen på det sociale område er på vej.

- Flere af landets store kommuner udvikler ideer til algoritmisk baserede systemer, der kan levere beslutningsstøtte til sagsbehandlere, når de skal afgøre, hvilken hjælp udsatte børn, unge og voksne skal have. Der er grund til at frygte, at hvis vi får sådan nogle systemer, så vil sagsbehandlerne have en tendens til at læne sig stærkt op ad deres forslag, siger hun.

Derudover er it-giganten KMD sammen med Københavns Universitet og ITU i gang med at udvikle systemet EcoKnow, som blandt andet skal kunne komme med anbefalinger til indsatsen for ledige. Et projekt som Dansk Socialrådgiverforening er inviteret med i for at sikre socialfaglighed, etik og borgerens retssikkerhed.

Næstformand i socialrådgiverforeningen, Ditte Brøndum, advarer imod at tro, at man kan få et indtryk af det hele menneske ved at køre data om personen igennem en algoritme.

- Alt det vi socialrådgivere ser i et møde med borgeren, alle de lyde, lugte og sanseindtryk, som gør, at vi instinktivt laver en vurdering af den borger, vi møder, det er altså svært at putte ind i en robot. Hvis vi så får en anbefaling fra en robot, bliver det svært for socialrådgiveren at sige, at jeg er uenig, for det var et andet indtryk jeg fik, da jeg mødte borgeren, siger hun.

Skal ikke erstatte mødet med det andet menneske

En af de kommuner, der er langt med at udvikle Machine Learning som værktøj, er København. Det er godt nok ikke på beskæftigelsesområdet, men i Socialforvaltningen, hvor man er ved at undersøge, om Machine Learning kan bruges til at understøtte sagsbehandlernes beslutninger ved at komme med anbefalinger til indsatser for udsatte børn.

Borgercenterchef Anne Steenberg understreger, at det altid vil være et menneske, der træffer myndighedsbeslutningen.

- Da vi arbejder med en kompleks og sårbar målgruppe, kan digitalisering selvfølgelig ikke erstatte det individuelle skøn og den socialfaglige vurdering, som fører op til en konkret afgørelse. Den subjektive vurdering, den faglige analyse samt mødet med det andet menneske kan og skal digitaliseringen ikke erstatte, siger hun.

Front på tre lastbiler
Nyheder

Stort firma konkurs

Kø på motorvej
Nyheder

Alvorlig ulykke spærrer motorvej

Mand med stort skæg og langt hår
Kendte

Anders Lund Madsen flytter:

Så dyr er hans villa

præst med bibel i dene ene hånd og den anden i døbefont
Nyheder

Her er de mest populære navne i år

Helikopter i luften
Krimi

Dræbt i ulykke

Par står under paraply
Nyheder

Weekendens vejr:

Sol og byger 

Krimi

Unge med ren straffeattest bijobber som kokainsælgere

Krimi

Dyrehavsbakken:

Ulykke i rutsjebanen

udrykningskæretøjer på rad og række
Krimi

Fem til skade i

ulykke ved køreskole 

to mænd sammen på den røde løber
Kendte

Eksotisk bryllupsrejse

må foreløbig vente

fire politiker i sal omkring den danske statsminister
Nyheder

Vi sender yderligere

2,6 milliarder til Ukraine

mand i pænt tøj på løberen
Kendte

Danske Spil: Bliver

den nye Bond dansk

cykelryttere på vej i mål
Sport

Vingegaard kom fint

igennem hård dag

stærk mand peger mod kameraet
Kendte

Vilde tal: Så rige er

de rigeste skuespillere

Billeder fra Halsskov Færgehavn
Krimi

20-årig er fundet død 

logo på retsbygning
Krimi

Dødsbilist uden kørekort

får seks års fængsel 

logo på retsbygning
Krimi

15-årige dømt for

ydmygelsesvold 

en chihuahua sidder i sneen
Dyreliv

Dagens helt i ministørrelse viste vej

et blødkogt æg i et æggebæger
Helt vildt

Hun kan invitere

15.485 på blødkogt æg

en mand smiler til fotografen
Kendte

Stig Rossen stopper

resterne af en monumental bygning
Helt vildt

Vildt vejr

lukker Akropolis

en mand ser alvorlig ud
Kendte

Timm Vladimir
ramt af sorg

en burger
Nyheder

Sure smileyer

- nu lukker

gourmet burger

to kvinder der ligner hinanden temmeligt meget
Kendte

Merete Mærkedahl

droppe Mette F.

en illustration af et tog
Nyheder

Nu kommer Danmarks første batteritog på skinner

en mand på scene peger opad
Nyheder

Værdi: 25.500.000.000.000

skuespiller læner sig op af væg
Kendte

Video: Lise Baastrup

i vildt vægttab

meget tæt portræt af mørk mand med kasket
Kendte

Efter trist besked:

Græd i bilen

en mand taler
Nyheder

Trumps toldhammer slår til med nye 50 procent

udrykningsblink på taget af politibil
Krimi

Ung mand i

alvorligt trafikuheld

sønderbombet by
Nyheder

Sendte 728 droner

i rekordangreb

mand på scene med mikrofon i hånden
Kendte

Tom Jones: Jeg

elsker mine danske fans

grise i stald
Nyheder

50 kroner ekstra skal

holde halen på grisen

fire kvinder på rad og række
Kendte

Lige nu: Diamantdatter

gift under åben himmel

to mænd på balkon
Nyheder

Pave Leo: 

Vil være fredmægler

cykelrytter i dyb koncentration
Sport

Øretæve til Vingegaard

Krimi

Dømt for drab

- for anden gang

Krimi

Tog 18-årig til fange og 

afpressede hans forældre

billede af kort-kabale på bord
Nyheder

Spil helt gratis med Avisen.dk

En politibil
Krimi

46-årig dømt: Voldtog steddatter i årevis

Mick Øgendahl på en scene med en kuvert i hånden
Kendte

Han er Danmarks

rigeste komiker

Røget laks, der ligger i lag
Nyheder

Efter listeriafund og dødsfald: 
Dansk firma får øjeblikkeligt forbud

Søren Ryge sidder på en rød bænk og ryger pibe
Kendte

Søren Ryge overrasker: 
Vender tilbage med haveprogram

Billede af taget på Odense Universitetshospital
Nyheder

Hospitalsansat fyret: Snagede i 174 journaler

Mary i ferskenfarvet jakkesæt arm i arm med Frederik  og ved siden af den svenske konge i gråt jakkesæt og Silvia i hvid jakke og sorte bukser
Nyheder

Træningsapp afslører kongens opholdssteder

En masse mennesker ligger og soler sig ved kanalen
Nyheder

DMI: Nu begynder det

Trump i gang med at tale
Nyheder

Højesteret giver grønt lys til Trump

En mørk sky af røg over en by
Nyheder

Over 100 sårede i skovbrand i Sydfrankrig

Tog passerer overskæring
Krimi

50-årig sigtes:

Stjal klokker fra

jernbaneoverkørsler

Personer omkring et mødebord
Nyheder

Trump godkender sending af våben til Ukraine

Sejlskib ligger siden
Nyheder

Stort sejlskib gået på grund

Kvinder på fodboldbane
Sport

Landsholdsbus i færdselsuheld på vej til EM-kamp

mand på scene med propper i ørene
Kendte

Efter mindre end et år:

Tobias Rahim er blevet skilt

Pakker med Wegovy
Nyheder

Novo vil tredoble Wegovy-dosis

Fodboldspillere med medaljer
Sport

Brøndby sælger topscoreren

et nærbillede af en flymotor
Nyheder

Lufthavn lukket

- "suget ihjel" af flymotor

Nyheder

Skovbrand lukker stor lufthavn i Frankrig

Pakke med hakket oksekød
Sundhed

Solgt i Netto:

Hakket oksekød

kaldes tilbage

fem skuespillere stillet op til fotografering
Kendte

Badehotellet-stjerner
drømmer om mere

Masser af mennesker på strand
Nyheder

DMI med godt nyt:

Så varmt bliver det

et par
Kendte

Lauritz-medejers

personlige
selskaber konkurs

to mænd i en filmscene
Kendte

Overraskelse:
Dansker har stor rolle
i ny Superman-film

en mand med solbriller
Kendte

Mads Langer scorer
hurtigt 12 millioner

et par krammer
Kendte

Paradise-strid afgjort

høns i en hønsegård
Nyheder

PFAS-stoffer fundet i æg

et skilt spejler sig i et vindue
Nyheder

Jensen’s Bøfhus får
markant underskud

en lottokupon
Nyheder

Lottogevinster:
Er det din million?

Nyheder

Soundboks får igen

stort millionunderskud

hånd tager kaffe fra en hylde
Nyheder

Vil fjerne afgiften på kaffe

kvinde med armenen på sofakant
Kendte

Sara Lygum skal

afløse Lene Beier

en lap papir med teksten konkurs vi beklager
Nyheder

Få firmaer gik konkurs i juni - mere end 1000 job forsvandt

tennisspiller helt i hvidt tøj
Sport

Mærket Tauson taber

foran kong Frederik

en strand
Nyheder

Glemte ting på stranden 
satte to store redningsaktioner i gang

Nyheder

Trump vil udsætte told

mand og kone på den røde løber
Kendte

Vil sælge Holtewood 

for 16,5 millioner kroner

cykelrytter jubler på målstregen
Sport

Voldsomt styrt i touren

billede af energi i orange indpakning
Sundhed

Tilbagekaldes: 
Spis dem ikke

mand og kvinde på den røde løber
Kendte

Dansktoplegende er død

EU-Kommissionens formand Ursula von der Leyen - portræt
Nyheder

Enighed: Von der Leyen

bliver ikke fældet