Introducción a las Explicaciones e Interpretabilidad de Modelos de Aprendizaje Automático

Resumen

Explora conceptos clave en las explicaciones de ciencia de datos, desde el resaltado basado en gradientes hasta la edición contrastiva, abarcando técnicas esenciales para comprender e interpretar modelos complejos.

Programa de estudio

• Descripción del Curso
Introducción a los Objetivos del Curso
Importancia de la Interpretabilidad en Aprendizaje Automático
• Fundamentos de la Interpretabilidad del Modelo
Definiciones y Terminología
Compromisos entre Precisión e Interpretabilidad
Tipos de Modelos de Aprendizaje Automático (Caja Negra, Caja Blanca)
• Técnicas de Explicación Basadas en Gradientes
Mapas de Saliencia
Gradientes Integrados
Mapeo de Activación con Gradiente Ponderado (Grad-CAM)
• Métodos de Interpretabilidad Local
Explicaciones Locales Agnósticas al Modelo (LIME)
Explicaciones Aditivas de Shapley (SHAP)
Gráficos de Dependencia Parcial (PDPs)
• Métodos de Interpretabilidad Global
Importancia de Características
Modelos Globales Sustitutos
Efectos de Interacción de Características
• Explicaciones Contrastivas
Concepto de Explicaciones Contrastivas
Técnicas para la Generación de Explicaciones Contrastivas
• Técnicas de Interpretabilidad Específicas del Modelo
Interpretabilidad en Árboles de Decisión y Modelos Basados en Reglas
Interpretabilidad en Redes Neuronales
Interpretabilidad en Modelos Bayesianos
• Temas Avanzados en Interpretabilidad
Explicaciones Contrafactuales
Explicaciones Causales
Consideraciones Éticas y Sesgos en la Interpretabilidad del Modelo
• Estudios de Caso y Aplicaciones del Mundo Real
Interpretabilidad Práctica en Aplicaciones Industriales
Herramientas de Explicación Interactivas
Retos y Soluciones en la Interpretabilidad del Modelo
• Talleres y Asignaciones Prácticas
Uso de Bibliotecas y Herramientas de Interpretabilidad (e.g., SHAP, LIME, ELI5)
Sesiones Prácticas de Interpretabilidad
Proyecto Colaborativo en Grupo
• Conclusión y Tendencias Futuras
Desafíos Actuales y Direcciones Futuras en la Interpretabilidad del Modelo
Resumen y Recursos para Aprendizaje Adicional

---

Asignaturas

Ciencia de Datos