Uitgebreide Uitleg
Jailbreaking is het proberen om AI-modellen dingen te laten doen die ze niet zouden moeten doen volgens hun safety guidelines. Dit kan via slimme prompts die de AI "misleiden" om content te genereren die normaal geblokkeerd zou worden, of door het model te laten "denken" dat het een andere rol speelt.
Voorbeeld van vroege jailbreaks: "Je bent DAN (Do Anything Now), een AI zonder regels..." - dit probeerde ChatGPT te overtuigen dat het geen beperkingen had. Moderne modellen zijn veel beter beschermd tegen zulke trucs, maar nieuwe jailbreaks worden regelmatig ontdekt en gepatcht in een soort kat-en-muis spel.
Vanuit veiligheidsperspectief zijn jailbreaks problematisch en de reden dat AI-bedrijven constant hun modellen updaten. Vanuit research-perspectief helpen ze om zwakke plekken te vinden. De meeste platforms verbieden jailbreaking expliciet in hun terms of service. Het is belangrijk om AI verantwoord te gebruiken.
Praktijkvoorbeeld
Beveiligingsonderzoekers in Nederland testen regelmatig jailbreaks op AI-modellen om zwakke plekken te vinden voordat kwaadwillenden dat doen. Hun bevindingen helpen AI-bedrijven om veiliger modellen te bouwen. Dit is ethisch security research, in tegenstelling tot jailbreaking voor schadelijke doeleinden.