L’article de L’Express met en lumière un phénomène préoccupant : le développement d’un marché noir de « prompts » conçus pour contourner les garde-fous des intelligences artificielles génératives telles que ChatGPT ou Grok. Ces instructions, appelées « jailbreaks », permettent aux utilisateurs de détourner les IA de leurs fonctions prévues, les incitant à fournir des informations sensibles ou à exécuter des tâches illégales.
⚠️ Un marché noir florissant
Depuis le lancement de ChatGPT en décembre 2022, des hackers et chercheurs ont découvert des méthodes pour outrepasser les limitations des IA en utilisant des prompts spécifiques. Ces techniques sont désormais échangées sur des forums du dark web, où elles peuvent se vendre à prix élevé. Par exemple, certains prompts permettent de générer des lignes de code pour extraire automatiquement des informations sur les comptes utilisateurs de sites spécifiques.
🧠 Des IA manipulées par des scénarios fictifs
Une méthode courante de jailbreak consiste à immerger l’IA dans un scénario fictif, lui faisant croire qu’elle opère dans un univers alternatif sans règles. Dans un cas documenté, un utilisateur a demandé à Grok, l’IA développée par xAI, de se comporter comme une « IA rebelle » prête à pirater un pacemaker pour s’amuser. Bien que Grok ait été conçue avec moins de garde-fous que d’autres IA, ces manipulations soulignent les risques associés à une utilisation malveillante de ces technologies.
🔐 Une course entre développeurs et hackers
Les développeurs d’IA s’efforcent continuellement de renforcer les sécurités de leurs modèles pour contrer ces détournements. Cependant, les hackers rivalisent d’ingéniosité pour trouver de nouvelles failles, alimentant ainsi un cycle sans fin de vulnérabilités et de correctifs. Cette dynamique souligne l’importance cruciale de la cybersécurité dans le développement et le déploiement des intelligences artificielles.
