Introduction aux explications et à l'interprétabilité des modèles d'apprentissage automatique

Aperçu

Explore key concepts in data science explanations, from gradient-based highlighting to contrastive editing, covering essential techniques for understanding and interpreting complex models.

Programme

• Aperçu du cours
Introduction aux objectifs du cours
Importance de l'interprétabilité dans l'apprentissage automatique
• Fondements de l'interprétabilité des modèles
Définitions et terminologie
Compromis entre précision et interprétabilité
Types de modèles d'apprentissage automatique (boîte noire, boîte blanche)
• Techniques d'explication basées sur le gradient
Cartes de saillance
Gradients intégrés
Mappage d'activation de classe pondéré par le gradient (Grad-CAM)
• Méthodes d'interprétabilité locale
Explications de modèle interprétable local et agnostique (LIME)
Explications additives de Shapley (SHAP)
Graphiques de dépendance partielle (PDPs)
• Méthodes d'interprétabilité globale
Importance des caractéristiques
Modèles de substitution globaux
Effets d'interaction des caractéristiques
• Explications contrastives
Concept d'explications contrastives
Techniques de génération d'explications contrastives
• Techniques spécifiques aux modèles pour l'interprétabilité
Interprétabilité dans les arbres de décision et les modèles basés sur des règles
Interprétabilité dans les réseaux neuronaux
Interprétabilité dans les modèles bayésiens
• Sujets avancés en interprétabilité
Explications contrefactuelles
Explications causales
Considérations éthiques et biais dans l'interprétabilité des modèles
• Études de cas et applications réelles
Interprétabilité pratique dans les applications industrielles
Outils d'explication interactifs
Défis et solutions dans l'interprétabilité des modèles
• Ateliers pratiques et devoirs
Utilisation de bibliothèques et outils d'interprétabilité (par exemple, SHAP, LIME, ELI5)
Séances de pratique de l'interprétabilité
Projet de groupe collaboratif
• Conclusion et tendances futures
Défis actuels et orientations futures en matière d'interprétabilité des modèles
Récapitulatif et ressources pour un apprentissage supplémentaire

---

Matières

Data Science