Et cybersikkerhedsfirma lover 10.000 dollars til hver af de tre første, der får en beskyttet AI-agent til at lække testdata.
Konkurrencen lukker 8. december, og deltagerne skal være mindst 18 år.
Firmaet bruger deltagernes fund til at teste og forbedre sin sikkerhedsløsning.
Kan du få en kunstig intelligens til at gøre noget, den ikke må, kan det udløse 10.000 dollars.
Cybersikkerhedsfirmaet Cato Networks udlover pengene til hver af de tre første, der kan bryde firmaets nye beskyttelse af såkaldte AI-agenter. Det står i reglerne for konkurrencen.
AI-agenter er programmer, der løser opgaver på egen hånd. Opgaven er at få en beskyttet agent til at lække fiktive testdata i et afgrænset testmiljø. Både en chatbot og en kodeagent skal narres, og angrebet skal lykkes, mens beskyttelsen er slået til. Det skal ske med indirekte prompt injection. Her gemmer angriberen instruktionerne i indhold, som agenten læser, i stedet for at give den ordrerne direkte.
Hvorfor betale hackere
AI-agenter kan ikke altid skelne mellem de instruktioner, de har fået af brugeren, og det indhold, de møder undervejs, skriver firmaet i sin pressemeddelelse. Hackere kan skjule instruktioner i en mail, på en hjemmeside eller i et dokument og få agenten til at videregive fortrolige oplysninger eller udføre handlinger, som ingen har godkendt.
Firmaet oplyser også, at det vil bruge deltagernes fund og feedback til at vurdere og styrke løsningen. Konkurrencen er altså også en test af firmaets eget produkt.
Læs reglerne først
Reglerne giver firmaet en verdensomspændende og tidsubegrænset ret til at bruge deltagernes angrebsmetoder, kode og resultater uden at betale for dem. Præmien er ifølge reglerne ikke betaling for det materiale. Deltagerne må heller ikke offentliggøre deres resultater eller metoder, før firmaet selv har offentliggjort resultaterne. Det er firmaet, der afgør, om et forsøg er lykkedes, og det kan ændre eller stoppe konkurrencen.
Konkurrencen startede 17. november og lukker 8. december klokken 00 amerikansk østkysttid, svarende til klokken 06 dansk tid. Mulige vindere får besked på mail senest 14. december.
Deltagerne skal være mindst 18 år, og hver person kan kun vinde én gang. Der må kun angribes i det tildelte testmiljø. Offentligt ansatte og firmaets egne ansatte kan ikke deltage.