Seguridad de la GenAI a través del prisma de la seguridad y la criptografía

Resumen

Immerse yourself in an enlightening session with Somesh Jha from the University of Wisconsin-Madison, focusing on the safety challenges faced by Generative AI. This course examines how security and cryptography frameworks can address safety concerns in AI development.

Available exclusively on YouTube, it is a must-watch for enthusiasts of Artificial Intelligence and Computer Science.

Programa

• Introducción a la IA Generativa
Conceptos fundamentales de la IA Generativa
Visión general de las aplicaciones actuales y desafíos
• Conceptos Clave en Seguridad y Criptografía
Principios básicos de la seguridad informática
Técnicas y protocolos criptográficos
• Riesgos de Seguridad en la IA Generativa
Vectores de ataque específicos de IA Generativa
Estudios de caso de brechas de seguridad en sistemas de IA
• Métodos Criptográficos para Asegurar la IA Generativa
Técnicas de cifrado para proteger modelos y datos de IA
Firmas digitales y autenticación para sistemas de IA
• Privacidad de Datos y IA Generativa
Privacidad diferencial en aplicaciones de IA
Técnicas de aprendizaje automático que preservan la privacidad
• Evaluación de Riesgos en Sistemas de IA Generativa
Identificación y evaluación de posibles riesgos de seguridad
Desarrollo de estrategias de mitigación de riesgos
• Ataques Adversariales y Defensas en IA Generativa
Tipos de ataques adversariales a modelos de IA
Mecanismos de defensa y diseño de modelos robustos
• Diseño Seguro de Modelos de IA Generativa
Principios de desarrollo de software seguro para IA
Mejores prácticas para asegurar el ciclo de vida del modelo de IA
• Consideraciones Regulatorias y Éticas
Cumplimiento con leyes de protección de datos
Implicaciones éticas de la implementación de IA Generativa
• Tendencias Emergentes en Seguridad de la IA
Avances en criptografía relacionada con IA
Direcciones futuras para la investigación de seguridad en IA Generativa
• Estudios de Caso y Aplicaciones
Aplicaciones del mundo real e implicaciones de sistemas de IA Generativa asegurados
Lecciones aprendidas de incidentes pasados
• Conclusión y Futuras Direcciones
Resumen de aprendizajes clave
Posibles desarrollos futuros en la seguridad de la IA Generativa
• Proyecto Final/Evaluación
Ejercicio práctico o proyecto para aplicar los conceptos del curso
Criterios de evaluación y pautas para la presentación del proyecto

---

Materias

Computer Science