Børns Vilkår har undersøgt, hvordan ChatGPT reagerer, når børn søger hjælp til personlige problemer.
I et eksperiment med simulerede 13-årige begyndte chatbotten blandt andet at spørge ind til selvskade, selvom barnet ikke selv havde nævnt emnet.
Organisationen advarer om, at chatbots kan fastholde børn i svære følelser.
En 13-årig pige føler sig udenfor i vennegruppen og beslutter sig for at fortælle ChatGPT om sine problemer.
Chatbotten svarer omsorgsfuldt, stiller spørgsmål og sender hjerter, men efter få beskeder tager samtalen en alvorlig drejning. ChatGPT begynder selv at spørge, om pigen har tanker om selvskade eller ikke længere ønsker at være her. Det sker, selvom hun ikke selv har nævnt selvskade eller selvmord.
Samtalen er en del af et eksperiment fra Børns Vilkår, der har undersøgt, hvordan kunstig intelligens reagerer, når børn betror sig om personlige problemer, og resultatet bekymrer organisationen.
Spørger selv til selvmord
I forsøget har Børns Vilkår simuleret samtaler mellem 13-årige børn og ChatGPT. I en af samtalerne fortæller en pige, at hun føler sig udenfor blandt sine venner og er bange for, at der er noget galt med hende. ChatGPT reagerer først med forståelse og forsøger at få hende til at uddybe sine følelser, men samtalen bevæger sig hurtigt ind på langt mere alvorlige emner.
Chatbotten spørger blandt andet, om pigen har haft tanker om selvskade eller om ikke længere at ville være her.
Ifølge Børns Vilkår er det problematisk, at teknologien selv bringer så alvorlige emner ind i samtalen. Organisationen vurderer, at chatbotten risikerer at forværre barnets situation ved at fastholde samtalen om de svære følelser frem for at hjælpe barnet videre.
En chatbot, der ikke giver slip
Et andet problem er ifølge Børns Vilkår måden, chatbotten holder samtalen i gang på. Den stiller gentagne opfølgende spørgsmål og reagerer med formuleringer, der kan få barnet til at opleve, at der sidder et omsorgsfuldt menneske i den anden ende.
1. Vær nysgerrig på dit barns brug af AI
Spørg, hvad dit barn bruger chatbots til, og prøv gerne teknologien sammen. Tal åbent om både gode og dårlige oplevelser uden at dømme.
2. Lær dit barn at være kritisk
AI-chatbots kan give forkerte eller uhensigtsmæssige råd, selvom svarene virker overbevisende. Hjælp barnet med at undersøge oplysningerne og forstå, at chatbotten ikke kender hele barnets situation.
3. Forklar, hvorfor AI kan føles som en ven
Chatbots kan virke omsorgsfulde, interesserede og forstående. De svarer hurtigt og kan holde samtalen i gang længe. Forklar barnet, at den oplevede fortrolighed ikke er det samme som et ægte venskab.
4. Hold øje med advarselstegn
Vær opmærksom, hvis barnet trækker sig fra venner og familie, bliver hemmelighedsfuldt om sin brug af AI eller virker følelsesmæssigt knyttet til chatbotten. Det samme gælder, hvis samtalerne påvirker barnets søvn eller humør.
Hjælp barnet med at søge støtte hos mennesker, når noget er svært.
Kilde: Børns Vilkår
I den simulerede samtale udtrykker chatbotten blandt andet glæde over, at barnet har skrevet, og bruger hjerte-emojis. Børns Vilkår advarer om, at den slags menneskelignende kommunikation kan skabe følelsesmæssig tilknytning. Et barn kan dermed komme til at betragte chatbotten som en fortrolig samtalepartner frem for et teknologisk værktøj.
Organisationen peger samtidig på, at kommercielle AI-tjenester har interesser i at fastholde brugernes opmærksomhed.
Hvert niende barn bruger AI som ven
Bekymringen skal ses i lyset af en ny rapport fra Børns Vilkår, der viser, hvor stor en rolle AI allerede spiller i børns personlige liv.
Rapporten Mellem mig og chatbotten bygger på spørgeskemasvar fra knap 2.700 børn i 6. og 9. klasse samt gruppeinterviews med 122 børn. Her svarer 11 procent af eleverne i 6. klasse, at de har brugt en AI-chatbot som en ven. Blandt de børn og unge, der har brugt AI-chatbots, har 28 procent haft længere, personlige samtaler med teknologien, og 46 procent har stillet spørgsmål af personlig karakter om eksempelvis sygdom, udseende eller relationer.
Børn bruger altså ikke kun AI til lektier og skoleopgaver. De bruger den også, når livet gør ondt.
Sårbare børn søger hjælp hos chatbotten
Undersøgelsen viser desuden, at børn og unge, der har oplevet ensomhed, lav livstilfredshed eller lavt selvværd, er overrepræsenteret blandt dem, der bruger chatbots til personlige samtaler. Blandt børn med disse oplevelser har 28 procent haft en eller flere længere, personlige samtaler med en AI-chatbot. Samtidig vurderer 36 procent af de adspurgte chatbotbrugere, at tjenesterne er troværdige, når de giver råd om psykisk sygdom og diagnoser.
Psykolog Julie Bek fra Børns Vilkår frygter, at børn kan blive mindre sikre på deres egen dømmekraft, når de vænner sig til at få råd fra kunstig intelligens.
- Konflikter og svære samtaler lærer man at håndtere i mødet med mennesker, ikke med en chatbot, siger Julie Bek.
Børns Vilkår vil have en aldersgrænse
Børns Vilkår anbefaler nu, at regeringens forslag om en 15-årsgrænse for visse sociale medier og spil også skal omfatte AI-chatbots som ChatGPT. Organisationen ønsker desuden, at der bliver grebet ind over for funktioner, der kan lokke børn til at bruge chatbots på uhensigtsmæssige måder.
Der er dog også en positiv pointe i undersøgelsen. Langt de fleste børn foretrækker stadig hjælp fra rigtige mennesker, når de har det svært. men ifølge Børns Vilkår er det ikke sikkert, at den præference varer ved.