Introducción a las Explicaciones e Interpretabilidad de Modelos de Aprendizaje Automático

Resumen

Explore key concepts in data science explanations, from gradient-based highlighting to contrastive editing, covering essential techniques for understanding and interpreting complex models.

Programa

• Descripción del Curso
Introducción a los Objetivos del Curso
Importancia de la Interpretabilidad en Aprendizaje Automático
• Fundamentos de la Interpretabilidad del Modelo
Definiciones y Terminología
Compromisos entre Precisión e Interpretabilidad
Tipos de Modelos de Aprendizaje Automático (Caja Negra, Caja Blanca)
• Técnicas de Explicación Basadas en Gradientes
Mapas de Saliencia
Gradientes Integrados
Mapeo de Activación con Gradiente Ponderado (Grad-CAM)
• Métodos de Interpretabilidad Local
Explicaciones Locales Agnósticas al Modelo (LIME)
Explicaciones Aditivas de Shapley (SHAP)
Gráficos de Dependencia Parcial (PDPs)
• Métodos de Interpretabilidad Global
Importancia de Características
Modelos Globales Sustitutos
Efectos de Interacción de Características
• Explicaciones Contrastivas
Concepto de Explicaciones Contrastivas
Técnicas para la Generación de Explicaciones Contrastivas
• Técnicas de Interpretabilidad Específicas del Modelo
Interpretabilidad en Árboles de Decisión y Modelos Basados en Reglas
Interpretabilidad en Redes Neuronales
Interpretabilidad en Modelos Bayesianos
• Temas Avanzados en Interpretabilidad
Explicaciones Contrafactuales
Explicaciones Causales
Consideraciones Éticas y Sesgos en la Interpretabilidad del Modelo
• Estudios de Caso y Aplicaciones del Mundo Real
Interpretabilidad Práctica en Aplicaciones Industriales
Herramientas de Explicación Interactivas
Retos y Soluciones en la Interpretabilidad del Modelo
• Talleres y Asignaciones Prácticas
Uso de Bibliotecas y Herramientas de Interpretabilidad (e.g., SHAP, LIME, ELI5)
Sesiones Prácticas de Interpretabilidad
Proyecto Colaborativo en Grupo
• Conclusión y Tendencias Futuras
Desafíos Actuales y Direcciones Futuras en la Interpretabilidad del Modelo
Resumen y Recursos para Aprendizaje Adicional

---

Materias

Data Science