IA para el Control Crítico de Seguridad

Resumen

Explore los fundamentos teóricos de la IA en sistemas de control críticos para la seguridad con Claire Tomlin de UC Berkeley, centrándose en la confiabilidad en aplicaciones de alto riesgo.

Programa de estudio

• Introducción a la IA para el Control Crítico de Seguridad
Resumen de los sistemas críticos de seguridad y su importancia
Introducción a la confiabilidad en aplicaciones impulsadas por IA
• Fundamentos Teóricos
Conceptos básicos de los sistemas de control y las intersecciones con la IA
Introducción a los sistemas dinámicos
Estabilidad y seguridad en sistemas de control
• Técnicas de IA en el Control
Métodos de aprendizaje automático para sistemas de control
Aprendizaje por refuerzo en entornos críticos de seguridad
Control predictivo basado en modelos usando IA
• Confiabilidad y Fiabilidad
Definición de confiabilidad en la IA
Métodos de IA verificables
Casos de aseguramiento y marcos de argumentación
• Análisis y Gestión de Riesgos
Técnicas de evaluación de riesgos en sistemas de control de IA
Estrategias de mitigación para los riesgos inducidos por IA
• Interacción Humano-IA
Factores humanos en el ciclo de control de IA
Diseño para la supervisión e intervención humana
• Aplicaciones en Sectores de Alto Riesgo
IA en sistemas aeroespaciales y automotrices
Dispositivos médicos impulsados por IA
Robótica y automatización en entornos críticos de seguridad
• Estudios de Caso y Ejemplos del Mundo Real
Historias de éxito y lecciones aprendidas
Fracasos y sus implicancias para la confiabilidad de la IA
• Tendencias Futuras y Direcciones de Investigación
Técnicas y tecnologías emergentes
Consideraciones políticas y éticas en la seguridad de la IA
• Conclusión del Curso
Resumen de los puntos clave de aprendizaje
Presentaciones y discusiones del proyecto final
• Recursos Adicionales
Lecturas recomendadas
Herramientas y plataformas en línea para un aprendizaje adicional

Asignaturas

Ciencias de la Computación