Sintetizando Interpretaciones Pareto-óptimas de Modelos ML de Caja Negra

Resumen

Dive into the intricate process of synthesizing Pareto-optimal interpretations for black-box machine learning models. This course focuses on finding the perfect balance between the clarity of explainability metrics and the precision of model accuracy.

Utilizing MaxSAT solving techniques, the content provides insights into achieving PAC-style guarantees. Delivered through the YouTube platform, this resource is designed for those keen on advancing their knowledge in artificial intelligence and computer science.

Programa

• Introducción a la explicabilidad en el aprendizaje automático
Importancia de la interpretabilidad en modelos de AA
Descripción general de los modelos de caja negra
Compromisos entre precisión e interpretabilidad
• Fundamentos de la Optimalidad de Pareto
Definición y ejemplos de eficiencia de Pareto
Aplicaciones en la optimización multiobjetivo
• Métricas de explicabilidad
Métricas comunes para la interpretabilidad de modelos
Interpretabilidad cuantitativa vs cualitativa
Técnicas para medir la calidad de la explicación del modelo
• Introducción a MaxSAT
Conceptos básicos del SAT (Problema de Satisfacción Booleana)
Descripción general de MaxSAT y sus aplicaciones
Mapeo de objetivos de interpretabilidad a problemas MaxSAT
• Marco de aprendizaje PAC
Fundamentos del aprendizaje probablemente aproximadamente correcto (PAC)
Aplicación de garantías PAC en la interpretación de modelos
• Síntesis de interpretaciones Paretianas óptimas
Usar MaxSAT para equilibrar interpretabilidad y precisión
Construcción de frentes de Pareto en contextos de explicabilidad
Técnicas para optimizar explicaciones de modelos
• Herramientas prácticas e implementaciones
Introducción a herramientas y bibliotecas para resolver MaxSAT
Implementación de soluciones Paretianas óptimas en Python
• Estudios de caso y aplicaciones
Ejemplos del mundo real de interpretaciones Paretianas
Análisis de resultados de equilibrar métricas en interpretaciones de modelos
• Evaluación de modelos interpretativos
Métodos para evaluar la efectividad de las interpretaciones
Evaluaciones basadas en casos de explicaciones sintetizadas
• Desafíos y futuras direcciones
Limitaciones actuales en la interpretación de modelos de caja negra
Oportunidades de investigación futura en la síntesis de explicaciones
• Conclusión y resumen del curso
Revisión de los conceptos clave aprendidos
Discusión sobre las implicaciones éticas de la interpretabilidad de modelos

---

Materias

Computer Science