Evaluación y mitigación de la injusticia en los sistemas de inteligencia artificial

Resumen

Learn to assess and mitigate fairness issues in AI systems, focusing on healthcare disparities. Hands-on practice with Fairlearn library to evaluate and improve ML model performance across racial groups.

Programa

• Introducción a la Equidad en la IA
Definición e importancia de la equidad en la IA
Resumen de los problemas de equidad en los sistemas de IA
Estudios de casos de sesgo e injusticia en la IA
• Entendiendo el Sesgo en la IA para la Salud
Introducción a las disparidades en la salud
Fuentes comunes de sesgo en los sistemas de IA para la salud
El impacto de la IA injusta en grupos raciales dentro de la salud
• Métricas de Equidad y Evaluación
Resumen de las métricas de equidad
Selección de las métricas de equidad adecuadas
Tutorial práctico con Fairlearn: Cálculo de métricas de equidad
• Introducción a la Biblioteca Fairlearn
Introducción e instalación
Funcionalidades principales de Fairlearn
Uso de Fairlearn en Python para la evaluación de modelos
• Evaluación de la Equidad en Modelos de IA
Sesión práctica: Evaluación de un modelo de salud de ejemplo
Uso del panel de Fairlearn para visualización
Interpretación de los resultados de métricas de equidad
• Técnicas para Mitigar la Injusticia
Técnicas de pre-procesamiento
Técnicas de en-procesamiento
Técnicas de post-procesamiento
Práctica práctica: Implementación de estrategias de mitigación con Fairlearn
• Estudio de Caso: Mejorando la Equidad en Modelos de Salud
Análisis de un modelo de salud del mundo real
Identificación de sesgo e injusticia
Aplicación de Fairlearn para la mitigación del sesgo
• Mejores Prácticas y Despliegue
Estrategias para mantener la equidad en modelos desplegados
Monitoreo continuo y bucles de retroalimentación
Consideraciones éticas y cumplimiento normativo
• Proyecto Final
Definir un proyecto utilizando datos de salud reales o simulados
Evaluar el sesgo en el sistema de IA
Aplicar estrategias de mitigación para mejorar la equidad del modelo
Presentar hallazgos y soluciones
• Conclusión y Direcciones Futuras
Resumen de los aprendizajes clave
Tendencias emergentes en la equidad de IA
Recursos para mayor aprendizaje e investigación

---

Materias

Conference Talks