Seguridad de la GenAI a través del prisma de la seguridad y la criptografía

Resumen

Explora los desafíos de seguridad de la Inteligencia Artificial Generativa desde las perspectivas de la seguridad y la criptografía con Somesh Jha de la Universidad de Wisconsin-Madison.

Programa de estudio

• Introducción a la IA Generativa
Conceptos fundamentales de la IA Generativa
Visión general de las aplicaciones actuales y desafíos
• Conceptos Clave en Seguridad y Criptografía
Principios básicos de la seguridad informática
Técnicas y protocolos criptográficos
• Riesgos de Seguridad en la IA Generativa
Vectores de ataque específicos de IA Generativa
Estudios de caso de brechas de seguridad en sistemas de IA
• Métodos Criptográficos para Asegurar la IA Generativa
Técnicas de cifrado para proteger modelos y datos de IA
Firmas digitales y autenticación para sistemas de IA
• Privacidad de Datos y IA Generativa
Privacidad diferencial en aplicaciones de IA
Técnicas de aprendizaje automático que preservan la privacidad
• Evaluación de Riesgos en Sistemas de IA Generativa
Identificación y evaluación de posibles riesgos de seguridad
Desarrollo de estrategias de mitigación de riesgos
• Ataques Adversariales y Defensas en IA Generativa
Tipos de ataques adversariales a modelos de IA
Mecanismos de defensa y diseño de modelos robustos
• Diseño Seguro de Modelos de IA Generativa
Principios de desarrollo de software seguro para IA
Mejores prácticas para asegurar el ciclo de vida del modelo de IA
• Consideraciones Regulatorias y Éticas
Cumplimiento con leyes de protección de datos
Implicaciones éticas de la implementación de IA Generativa
• Tendencias Emergentes en Seguridad de la IA
Avances en criptografía relacionada con IA
Direcciones futuras para la investigación de seguridad en IA Generativa
• Estudios de Caso y Aplicaciones
Aplicaciones del mundo real e implicaciones de sistemas de IA Generativa asegurados
Lecciones aprendidas de incidentes pasados
• Conclusión y Futuras Direcciones
Resumen de aprendizajes clave
Posibles desarrollos futuros en la seguridad de la IA Generativa
• Proyecto Final/Evaluación
Ejercicio práctico o proyecto para aplicar los conceptos del curso
Criterios de evaluación y pautas para la presentación del proyecto

Asignaturas

Ciencias de la Computación