Sécuriser l'interprétation et la protection des modèles d'IA

Aperçu

Ever wonder if your smart AI is actually secure? In this course, we'll ditch the dry theory to show you how to build genuinely resilient AI systems from the ground up, making security a core part of your design, not just an afterthought.

You'll begin by stepping into the role of an AI Security Architect, running a “pre-mortem” to think like an attacker and neutralize threats before they even happen. Through focused videos and exercises, you’ll master essential defenses like blocking bad data with input sanitization, ‘vaccinating’ your model against attacks with adversarial training, and protecting user data with differential privacy.

This all culminates in a hands-on lab where you'll personally fix a vulnerable model and prove its new resilience. The main goal is to shift your mindset from reactive patching to proactive design, so you’ll walk away with the real-world skills to analyze defense strategies, successfully harden a model in a lab, and design a comprehensive security plan for any new AI project.

Programme

• Le Manuel de l'Attaquant : Comprendre les Vulnérabilités de l'IA
Ce module introduit le concept fondamental selon lequel les modèles d'IA sont des surfaces d'attaque. Vous apprendrez à penser comme un adversaire, en explorant les principales catégories d'attaques—l'évasion, l'empoisonnement des données, et l'extraction de modèles—et verrez comment elles exploitent les faiblesses des modèles avec des exemples concrets.
• Construire le Bouclier : Stratégies de Défense Proactives
Passant de l'attaque à la défense, ce module se concentre sur l'intégration directe de la sécurité dans vos systèmes d'IA. Vous apprendrez à mettre en œuvre et à configurer des mécanismes de défense robustes et proactifs tels que la formation adversariale, la désinfection des entrées, et la confidentialité différentielle pour créer des modèles résilients par essence.
• Test Adversarial et le Cycle Continu
Une défense n'est efficace que si elle est testée. Dans ce module final, vous maîtriserez l'art du "Red Teaming" en IA en concevant et exécutant des attaques simulées pour valider vos mesures de sécurité. Vous apprendrez à évaluer la résilience des modèles et à adopter le cycle continu de sécurité nécessaire pour rester en avance sur les menaces émergentes.

---

Enseigné par

Starweaver and Rifat Erdem Sahin

---

Matières

Computer Science