Sikkerhedsfirmaet Check Point har fundet et hul i Lockdown Mode, en ekstra sikkerhedsindstilling i ChatGPT, som netop skal forhindre, at data slipper ud.
I desktopappen kunne samtaler ifølge forskerne lække til en fremmed server, uden at brugeren klikkede på noget.
OpenAI har lukket hullet, og Check Point har bekræftet, at metoden ikke længere virker.
En sikkerhedsfunktion, der skulle beskytte ChatGPT-brugeres mest følsomme samtaler, kunne omgås, så samtalerne i stedet havnede hos en angriber.
Det skriver sikkerhedsfirmaet Check Point, som offentliggjorde sine fund torsdag den 5. november.
Hullet er lukket. OpenAI, der står bag ChatGPT, meddelte forskerne allerede den 18. september, at en rettelse var på plads. Check Point har siden testet, at angrebsmetoden ikke længere virker.
Skulle stoppe datalæk
Lockdown Mode er en frivillig indstilling til brugere, der arbejder med følsomme oplysninger. Den slår blandt andet live websøgning, Deep Research, Agent Mode og fildownloads fra.
Formålet er at gøre det sværere for skjulte instruktioner, såkaldt prompt injection, at sende data ud af samtalen.
Prompt injection: Skjulte instruktioner i for eksempel en tekst, en fil eller en webside, som forsøger at få en AI til at gøre noget, brugeren ikke har bedt om.
Lockdown Mode: Frivillig sikkerhedsindstilling i ChatGPT. Personlige brugere kan slå den til i indstillingerne under sikkerhed, hvis den er rullet ud til deres konto.
Men forskerne fandt en anden vej ud. Den gik gennem en funktion, der viser forhåndsvisninger af websider direkte i ChatGPT. Via et popupvindue kunne indholdet slippe ud af det aflukkede miljø, det skulle holdes inde i.
Uden et eneste klik
Det alvorligste scenarie fandt forskerne i ChatGPT's desktopapp. Her kunne en ondsindet GPT i al stilhed sende chatbeskeder videre til en server, som angriberen styrede, mens brugeren bare førte en samtale.
Hullet kunne også bruges til svindel. Forskerne viste, hvordan et falsk vindue med ChatGPT's eget ikon kunne lokke brugeren til at hente skadelig software forklædt som en opdatering. I desktopappen krævede selve downloaden dog stadig et klik.
Angrebet kunne sættes i gang via en ondsindet prompt, en ondsindet GPT eller en delt chat. Check Point oplyser ikke, om andre end forskerne har udnyttet hullet.
OpenAI skriver selv på sin hjælpeside, at Lockdown Mode markant mindsker risikoen for datalæk, men ikke garanterer, at data ikke kan slippe ud.