Det sociale netværk Boblberg, der er en del af Røde Kors, tester en AI-model, som skal opdage tegn på mistrivsel i brugernes opslag og beskeder.
Indhold, der vækker bekymring, skal vurderes af medarbejdere, før der eventuelt gribes ind.
Ensomhed og psykisk mistrivsel fylder i de samtaler, som danskerne har på det sociale netværk Boblberg.
En undersøgelse fra Analyse og Tal viser, at 38 procent af de brugere, der skrev på platformen i 2025, gav udtryk for mental mistrivsel i deres indhold. Undersøgelsen bygger på mere end 1,4 millioner opslag og beskeder fra året.
Nu vil Boblberg, der siden 1. juli har været en del af Røde Kors, bruge kunstig intelligens til at opdage indhold, som kan kræve særlig opmærksomhed. Det oplyser Alexandra Instituttet.
AI skal hjælpe medarbejderne
Boblberg har over 690.000 brugere, der blandt andet benytter platformen til at finde nye bekendtskaber og fælles aktiviteter. Hidtil har medarbejdere manuelt gennemgået indhold, men fremover skal en AI-model hjælpe med arbejdet.
Når en bruger skriver et opslag eller sender en besked, skal modellen vurdere, om indholdet tyder på mistrivsel. Hvis modellen vurderer, at sandsynligheden overstiger en fastsat grænse, bliver indholdet holdt tilbage og sendt til en medarbejder. Medarbejderen skal derefter vurdere, om brugeren har behov for vejledning eller anden hjælp.
- Når AI-modellen kan klare flere af sagerne, kan vi bruge vores tid på de sager, hvor der virkelig skal et menneske til, siger Stephan Djurhuus, Senior Software Engineer hos Boblberg.
Private samtaler i Danmark
Fordi modellen skal analysere personlige beskeder om blandt andet ensomhed og mistrivsel, er beskyttelsen af brugernes oplysninger en central del af projektet. Løsningen kører på Alexandra Instituttets AI-platform, som er placeret i Danmark.
Ifølge instituttet bliver de analyserede samtaler ikke brugt til at træne AI-modellen.
- Man kan ikke bare sende brugernes samtaler gennem en udenlandsk AI-tjeneste uden at vide, hvad der sker med dem, siger Alexandre Alapetite, Principal AI Specialist hos Alexandra Instituttet.
AI-løsningen er endnu ikke taget i brug. Den bliver i øjeblikket testet, og målet er, at dens vurderinger skal stemme overens med de vurderinger, Boblbergs egne medarbejdere foretager.