Jailbreak : Définition et Exemples

Le jailbreak désigne l'ensemble des techniques utilisées pour contourner les mesures de sécurité intégrées dans les modèles de langage (LLM) comme ChatGPT, Claude ou Gemini. Ces modèles sont entraînés avec des règles strictes qui les empêchent de générer du contenu dangereux, illégal ou contraire à l'éthique. Le jailbreak cherche à neutraliser ces protections par des prompts astucieusement formulés.

Les méthodes de jailbreak exploitent généralement des failles dans la manière dont le modèle interprète les instructions. Parmi les techniques courantes, on trouve le role-playing (demander au modèle de jouer un personnage sans restrictions), l'injection de prompts (insérer des instructions cachées qui écrasent les consignes système), ou encore les attaques par encodage (utiliser des langages codés ou des transformations de texte pour masquer la requête réelle).

Les fournisseurs d'IA investissent massivement dans la recherche en red teaming et en alignement pour rendre leurs modèles plus résistants aux jailbreaks. Chaque nouvelle technique découverte est généralement corrigée rapidement, créant une dynamique de course entre attaquants et défenseurs. Ce domaine est devenu un champ de recherche à part entière en sécurité de l'IA.

Il est important de distinguer le jailbreak malveillant, qui vise à produire du contenu nuisible, du red teaming éthique, pratiqué par des chercheurs en sécurité pour identifier et corriger les vulnérabilités des modèles avant qu'elles ne soient exploitées. Le red teaming est encouragé par les entreprises d'IA et constitue une pratique légitime de cybersécurité.