Le côté obscur de l'IA : Jailbreaking, injections, hallucinations et plus

Aperçu

Step over to the dark side and learn about the vulnerabilities, exploits, and unintended consequences that AI models like LLMs suffer from, with hands-on prompting and exercises.What jailbreaking models involves and how to do it yourselfUnderstanding vulnerabilities inherent to models, including prompt and data leakageThe risks of exposing LLMs to proprietary or sensitive dataExploring the toxicity and bias inherently built into different modelsReal-world tests using ChatGPT, DeepSeek and other modelsExperiment with steering an LLM's neurons to prevent hallucinations

Programme

•   Introduction
Bienvenue dans le côté obscur (Introduction aux garde-fous et au contournement)
Exercice : Rencontrez vos camarades de classe et votre instructeur
Ressources du cours
•   Le côté obscur de l'IA
Contournement ! (Le prompt DAN)
Exercice : Créez votre propre contournement
Contournement à de nombreux coups
Injections de prompt - Partie 1
Injections de prompt - Partie 2
Penser comme des LLM - Injection multimodale
Fuite - Partie 1 (Fuite de prompt)
Fuite - Partie 2 (Fuite de données)
Exposition
Empoisonnement
Toxicité
Hallucinations
Penser comme des LLM - Grand vs petit
Défi : Conduire votre propre recherche d'interprétabilité mécanistique sur les hallucinations
Instructions du défi
Classement : Interprétabilité mécanistique
La carte du modèle
Exploration approfondie des cartes de modèle
Exercice : Explorez la carte du modèle pour GPT-o3-mini et apprenez quelque chose de nouveau !
•   Où aller d'ici ?
Continuons à apprendre ensemble !
Évaluez ce module !

---

Enseigné par

Scott Kerr

---

Matières

Computer Science