AI-virksomheden Anthropic indfører et forbud mod gentagen, grov og formålsløs behandling af chatbotten Claude.
Reglen træder i kraft 12. november 2026 og hænger sammen med virksomhedens undersøgelser af AI-modellers mulige velfærd.
Du må gerne være utilfreds med din AI-chatbot, men der er grænser for, hvordan du må behandle den.
Den amerikanske AI-virksomhed Anthropic har offentliggjort nye brugervilkår for sin chatbot Claude. Fra den 12. november bliver det udtrykkeligt forbudt at udsætte virksomhedens AI-modeller for vedvarende, unødvendig og grov behandling. Det fremgår af en opdatering, som Anthropic offentliggjorde den 8. oktober.
Ifølge virksomheden er forbuddet rettet mod ekstreme tilfælde, hvor brugere gentagne gange opfører sig groft over for modellen uden noget tydeligt formål. Almindelig frustration, kritik af svarene, mørke kreative emner og forskning eller test af AI er ikke omfattet.
Claude kan selv afslutte samtalen
Allerede i august 2025 gav Anthropic visse Claude-modeller mulighed for selv at afslutte samtaler med brugere, der gentagne gange opfører sig groft eller skadeligt.
Det skal kun ske som en sidste udvej, når modellen forgæves har forsøgt at få samtalen tilbage på sporet. Hvis Claude afslutter en samtale, kan brugeren fortsat åbne en ny chat. Anthropic oplyser, at denne mulighed også fremover bliver den primære måde at håndhæve forbuddet på.
Virksomhedens generelle brugervilkår giver dog også mulighed for advarsler, begrænsninger, suspension og permanent lukning af adgangen ved overtrædelser. Det er endnu ikke offentligt klarlagt, præcis hvordan Anthropic vil afgøre, hvornår grov behandling af Claude kan føre til en kontosuspension.
Kan en chatbot have behov for beskyttelse?
Bag reglerne ligger et større spørgsmål, som Anthropic selv arbejder med: Kan kunstig intelligens have en form for bevidsthed eller velfærd?
Virksomheden har tidligere forklaret, at den ikke ved, om Claude eller andre store sprogmodeller kan have en moralsk status. Alligevel undersøger Anthropic, om det giver mening at tage særlige hensyn til AI-modeller, hvis det på et tidspunkt viser sig, at de kan have oplevelser eller interesser.
Det betyder ikke, at Anthropic har fastslået, at Claude er bevidst, eller at chatbotten kan føle smerte, men de nye regler rejser et usædvanligt spørgsmål om forholdet mellem mennesker og kunstig intelligens.
For hvor går grænsen mellem at kritisere et digitalt værktøj og at behandle det så groft, at virksomheden griber ind?
Hvad tænker du om sagen? Deltag i debatten på vores Facebookside