Evaluación y mitigación de la injusticia en los sistemas de inteligencia artificial

Resumen

Aprenda a evaluar y mitigar problemas de equidad en los sistemas de IA, enfocándose en las disparidades en atención médica. Práctica práctica con la biblioteca Fairlearn para evaluar y mejorar el rendimiento de modelos de ML entre grupos raciales.

Programa de estudio

- Introducción a la Equidad en la IA -- Definición e importancia de la equidad en la IA -- Resumen de los problemas de equidad en los sistemas de IA -- Estudios de casos de sesgo e injusticia en la IA - Entendiendo el Sesgo en la IA para la Salud -- Introducción a las disparidades en la salud -- Fuentes comunes de sesgo en los sistemas de IA para la salud -- El impacto de la IA injusta en grupos raciales dentro de la salud - Métricas de Equidad y Evaluación -- Resumen de las métricas de equidad -- Selección de las métricas de equidad adecuadas -- Tutorial práctico con Fairlearn: Cálculo de métricas de equidad - Introducción a la Biblioteca Fairlearn -- Introducción e instalación -- Funcionalidades principales de Fairlearn -- Uso de Fairlearn en Python para la evaluación de modelos - Evaluación de la Equidad en Modelos de IA -- Sesión práctica: Evaluación de un modelo de salud de ejemplo -- Uso del panel de Fairlearn para visualización -- Interpretación de los resultados de métricas de equidad - Técnicas para Mitigar la Injusticia -- Técnicas de pre-procesamiento -- Técnicas de en-procesamiento -- Técnicas de post-procesamiento -- Práctica práctica: Implementación de estrategias de mitigación con Fairlearn - Estudio de Caso: Mejorando la Equidad en Modelos de Salud -- Análisis de un modelo de salud del mundo real -- Identificación de sesgo e injusticia -- Aplicación de Fairlearn para la mitigación del sesgo - Mejores Prácticas y Despliegue -- Estrategias para mantener la equidad en modelos desplegados -- Monitoreo continuo y bucles de retroalimentación -- Consideraciones éticas y cumplimiento normativo - Proyecto Final -- Definir un proyecto utilizando datos de salud reales o simulados -- Evaluar el sesgo en el sistema de IA -- Aplicar estrategias de mitigación para mejorar la equidad del modelo -- Presentar hallazgos y soluciones - Conclusión y Direcciones Futuras -- Resumen de los aprendizajes clave -- Tendencias emergentes en la equidad de IA -- Recursos para mayor aprendizaje e investigación

Enseñado por

Etiquetas