Modelos de Aprendizaje Profundo Explicables para la Atención Médica

Resumen

This course will introduce the concepts of interpretability and explainability in machine learning applications. The learner will understand the difference between global, local, model-agnostic and model-specific explanations.

State-of-the-art explainability methods such as Permutation Feature Importance (PFI), Local Interpretable Model-agnostic Explanations (LIME) and SHapley Additive exPlanation (SHAP) are explained and applied in time-series classification. Subsequently, model-specific explanations such as Class-Activation Mapping (CAM) and Gradient-Weighted CAM are explained and implemented.

The learners will understand axiomatic attributions and why they are important. Finally, attention mechanisms are going to be incorporated after Recurrent Layers and the attention weights will be visualised to produce local explanations of the model.

Programa

• Modelos de Aprendizaje Automático Interpretables vs Explicables en el Cuidado de la Salud
Los modelos de aprendizaje profundo son complejos y es difícil entender sus decisiones. Los métodos de explicabilidad buscan arrojar luz sobre las decisiones de aprendizaje profundo y mejorar la confianza, evitar errores y asegurar el uso ético de la IA. Las explicaciones pueden categorizarse como globales, locales, independientes del modelo y específicas del modelo. La importancia de características por permutación es un método de explicabilidad global e independiente del modelo que proporciona información en relación con qué variables de entrada están más relacionadas con la salida.
• Métodos de Explicabilidad Local para Modelos de Aprendizaje Profundo
Los métodos de explicabilidad local proporcionan explicaciones sobre cómo el modelo llega a una decisión específica. LIME aproxima el modelo localmente con un modelo más simple e interpretable. SHAP amplía esto y también está diseñado para abordar la multicolinealidad de las características de entrada. Tanto LIME como SHAP son explicaciones locales e independientes del modelo. Por otro lado, CAM es una técnica de visualización clasificada como discriminativa, diseñada específicamente para proporcionar explicaciones locales en redes neuronales profundas.
• Mapeo de Activación de Clase Ponderado por Gradiente y Gradientes Integrados
GRAD-CAM es una extensión de CAM, que busca una aplicación más amplia de la arquitectura en redes neuronales profundas. Aunque es uno de los métodos más populares para explicar decisiones de redes neuronales profundas, viola propiedades axiomáticas clave, como la sensibilidad y la completitud. Gradientes integrados es un método de atribución axiomático que busca cubrir esta brecha.
• Mecanismos de Atención en el Aprendizaje Profundo
La atención en redes neuronales profundas imita la atención humana que asigna recursos computacionales a un pequeño rango de entrada sensorial para procesar información específica con poder de procesamiento limitado. Esta semana, discutimos cómo incorporar la atención en las Redes Neuronales Recurrentes y los autoencoders. Además, visualizamos los pesos de atención para proporcionar una forma de explicación inherente al proceso de toma de decisiones.

---

Impartido por

Fani Deligianni

---

Materias

Artificial Intelligence