¿Qué nos puede decir la teoría de la criptografía sobre la seguridad de la IA?

Resumen

Unlock the potential of cryptographic theory in enhancing AI safety with this insightful content featuring Shafi Goldwasser. Discover how vital principles of cryptography can be harnessed to develop language models with innate safety guarantees.

Ideal for enthusiasts and professionals alike, this session bridges the gap between cutting-edge technology and security, provided by YouTube in collaboration with leading academic institutions.

Programa

• Introducción a la teoría criptográfica
Breve historia y conceptos clave
Visión general de las técnicas criptográficas modernas
• Fundamentos de la seguridad en la IA
Definición y alcance de la seguridad en la IA
Desafíos actuales en la seguridad de la IA
• Intersección de la criptografía y la seguridad en la IA
Principios criptográficos aplicables a los modelos de IA
Estudios de caso donde la criptografía mejora la seguridad en la IA
• Perspectivas de Shafi Goldwasser
Contribuciones clave a la teoría criptográfica
Aplicación de los principios de Goldwasser a la seguridad en la IA
• Desarrollo de modelos de lenguaje con garantía de seguridad
Mecanismos para asegurar la privacidad e integridad de los datos
Técnicas para proteger el comportamiento del modelo
• Computación segura de múltiples partes (SMPC)
Principios de SMPC
Aplicaciones en IA para prevenir el filtrado de datos
• Pruebas de conocimiento cero en IA
Introducción a las pruebas de conocimiento cero
Aplicaciones prácticas para verificar afirmaciones de modelos de IA sin revelar datos internos
• Privacidad diferencial en sistemas de IA
Conceptos de privacidad diferencial
Implementación de privacidad diferencial en el entrenamiento de modelos de IA
• Desafíos y limitaciones
Limitaciones de las técnicas criptográficas actuales en la IA
Riesgos potenciales y cómo mitigarlos
• Direcciones futuras
Tendencias emergentes en criptografía para la seguridad en IA
Oportunidades de investigación y áreas de desarrollo
• Conclusión del curso y conclusiones
Resumen de las lecciones clave
Discusión sobre enfoques interdisciplinarios para la seguridad en la IA

---

Materias

Computer Science