Seguridad de GenAI a través del prisma de la seguridad y la criptografía

Resumen

Explore los desafíos de seguridad de la IA generativa desde las perspectivas de seguridad y criptografía, con ideas del enfoque teórico de Somesh Jha hacia una IA confiable.

Programa de estudio

• Introducción a la IA Generativa
Panorama de la IA Generativa
Avances recientes y aplicaciones
Importancia de la seguridad en la IA Generativa
• Desafíos de seguridad en la IA Generativa
Identificación de amenazas potenciales
Preocupaciones de privacidad y protección de datos
Ataques adversariales a modelos de IA Generativa
• Técnicas criptográficas para la Seguridad de IA
Fundamentos de la criptografía relevantes para IA
Métodos de cifrado para asegurar modelos de IA
Técnicas de aprendizaje automático que preservan la privacidad
• Enfoque teórico de Somesh Jha
Resumen de las contribuciones de Jha a la seguridad de IA
Perspectivas desde marcos teóricos
Estudios de caso y ejemplos prácticos
• Sistemas de IA de confianza
Principios de diseño de IA confiable
Verificación y validación de modelos de IA
Construcción de IA Generativa resiliente y robusta
• Consideraciones éticas en la seguridad de IA
Equilibrio entre privacidad y funcionalidad
Gobernanza de IA y marcos regulatorios
Impactos sociales y dilemas éticos
• Enfoques y herramientas prácticas
Herramientas para asegurar la IA Generativa
Implementación de soluciones criptográficas
Ejercicios prácticos y proyectos
• Direcciones futuras para la seguridad de IA
Tendencias emergentes en seguridad de IA y criptografía
Oportunidades de investigación y desafíos abiertos
Colaboración entre academia e industria
• Conclusión y revisión
Resumen de las conclusiones clave
Discusiones finales y sesión de preguntas y respuestas
Retroalimentación y evaluación del curso

Asignaturas

Informática