Modèles d'apprentissage profond explicables pour le secteur de la santé

Aperçu

This course will introduce the concepts of interpretability and explainability in machine learning applications. The learner will understand the difference between global, local, model-agnostic and model-specific explanations.

State-of-the-art explainability methods such as Permutation Feature Importance (PFI), Local Interpretable Model-agnostic Explanations (LIME) and SHapley Additive exPlanation (SHAP) are explained and applied in time-series classification. Subsequently, model-specific explanations such as Class-Activation Mapping (CAM) and Gradient-Weighted CAM are explained and implemented.

The learners will understand axiomatic attributions and why they are important. Finally, attention mechanisms are going to be incorporated after Recurrent Layers and the attention weights will be visualised to produce local explanations of the model.

Programme

• Modèles de Machine Learning Interprétables vs Explicables en Soins de Santé
Les modèles de deep learning sont complexes et il est difficile de comprendre leurs décisions. Les méthodes d’explicabilité visent à éclairer les décisions de deep learning et à renforcer la confiance, éviter les erreurs et assurer une utilisation éthique de l’IA. Les explications peuvent être classées comme globales, locales, indépendantes du modèle et spécifiques au modèle. L’importance des caractéristiques par permutation est une méthode d’explicabilité globale, indépendante du modèle, qui fournit des informations sur la relation entre les variables d’entrée et la sortie.
• Méthodes d'Explicabilité Locale pour les Modèles de Deep Learning
Les méthodes d’explicabilité locale fournissent des explications sur la façon dont le modèle parvient à une décision spécifique. LIME approxime le modèle localement avec un modèle plus simple et interprétable. SHAP développe ce concept et est également conçu pour traiter la multicolinéarité des caractéristiques d’entrée. LIME et SHAP sont tous deux des explications locales et indépendantes du modèle. En revanche, CAM est une technique de visualisation discriminative de classes, spécifiquement conçue pour fournir des explications locales dans les réseaux neuronaux profonds.
• Carte d'Activation de Classe Pondérée par le Gradient et Intégration des Gradients
GRAD-CAM est une extension de CAM, qui vise une application plus large de l'architecture dans les réseaux neuronaux profonds. Bien qu’elle soit l’une des méthodes les plus populaires pour expliquer les décisions des réseaux neuronaux profonds, elle viole des propriétés axiomatiques clés, telles que la sensibilité et l’exhaustivité. Les gradients intégrés sont une méthode d’attribution axiomatique qui ambitionne de combler cette lacune.
• Mécanismes d'Attention dans le Deep Learning
L’attention dans les réseaux neuronaux profonds imite l’attention humaine, qui alloue des ressources computationnelles à une gamme restreinte d’entrées sensorielles afin de traiter des informations spécifiques avec une puissance de traitement limitée. Cette semaine, nous discutons de la manière d’incorporer l’attention dans les réseaux neuronaux récurrents et les autoencodeurs. De plus, nous visualisons les poids d'attention afin de fournir une forme d'explication inhérente au processus de prise de décision.

---

Enseigné par

Fani Deligianni

---

Matières

Artificial Intelligence