Méthodes d'explicabilité et évaluation

Aperçu

This course explores advanced Explainable AI (XAI) techniques for interpreting and validating machine learning model behavior. It focuses on methods that move beyond simple feature importance toward mathematically grounded insights into black-box models.

Through structured lessons and practical demonstrations, you will learn how Shapley theory underpins fair feature attribution, how SHAP methods generate local and global explanations, and how surrogate and rule-based approaches approximate model behavior. You will also work with counterfactual and contrastive explanations, including how to generate actionable alternatives and evaluate plausibility under perturbations and adversarial conditions.

The course progresses from mathematical foundations to applied evaluation, emphasizing fidelity, faithfulness, stability, and reliability. Rather than treating explanations as visual outputs, it focuses on critically analyzing whether they accurately reflect model behavior.

By the end of this course, you will be able to:

- Explain the mathematical foundations of Shapley values and fair feature attribution - Apply SHAP techniques such as TreeSHAP, KernelSHAP, and interaction values - Design and evaluate surrogate and rule-based explanation methods - Generate and assess counterfactuals using practical evaluation metrics - Measure explanation quality through fidelity, faithfulness, stability, robustness, and sparsity - Test explanation reliability under perturbations and adversarial manipulation This course is ideal for machine learning engineers, AI researchers, data scientists, and professionals building trustworthy AI systems. A foundational understanding of ML concepts and Python-based model development is recommended; prior experience with explainability techniques is not required.

Join us to learn how to design and validate XAI systems that deliver transparent, reliable insights into machine learning models.

Programme

• Attribution des caractéristiques et modélisation interprétable
Construisez une base solide en attribution des caractéristiques et en modélisation interprétable en apprenant comment les prédictions peuvent être expliquées à l'aide de méthodes basées sur les contributions. Explorez les techniques SHAP, simplifiez les modèles de boîte noire avec des substituts et appliquez ces concepts grâce à l'analyse pratique du comportement des modèles et de la qualité des explications.
• Méthodes contrefactuelles et contrastives
Explorez les décisions des modèles en utilisant des explications alternatives et basées sur des comparaisons. Apprenez comment les contrefactuels montrent ce qui doit changer pour obtenir des résultats différents, appliquez des contraintes pour le réalisme et évaluez leur qualité. Acquérez une expérience pratique dans la génération et la validation d'explications, et approfondissez votre compréhension avec des méthodes contrastives pour identifier les différences dans les prédictions.
• Évaluation des méthodes d'explication
Évaluez la fiabilité et la signification des méthodes d'explication en explorant des critères tels que la fidélité, la stabilité et la robustesse. Apprenez comment les explications réagissent aux changements d'entrée et aux effets adverses, et acquérez une expérience pratique en comparant les méthodes d'une perspective technique et humaine.
• Conclusion du cours et évaluations
Ce module final évalue votre compréhension des méthodes d'explication et de leur utilisation dans le monde réel. Vous expliquerez les prédictions des modèles en utilisant l'attribution des caractéristiques, générerez des explications contrefactuelles et contrastives, et évaluerez la qualité des explications en utilisant des critères tels que la fidélité, la stabilité et la robustesse. À la fin, vous serez capable d'évaluer et de communiquer des explications de modèles fiables et dignes de confiance.

---

Enseigné par

Edureka

---

Matières

Artificial Intelligence