Que peut nous dire la théorie de la cryptographie sur la sécurité de l'IA ?

Aperçu

Unlock the potential of cryptographic theory in enhancing AI safety with this insightful content featuring Shafi Goldwasser. Discover how vital principles of cryptography can be harnessed to develop language models with innate safety guarantees.

Ideal for enthusiasts and professionals alike, this session bridges the gap between cutting-edge technology and security, provided by YouTube in collaboration with leading academic institutions.

Programme

• Introduction à la théorie cryptographique
Brève histoire et concepts clés
Aperçu des techniques cryptographiques modernes
• Fondamentaux de la sécurité de l'IA
Définition et portée de la sécurité de l'IA
Défis actuels de la sécurité de l'IA
• Intersection de la cryptographie et de la sécurité de l'IA
Principes cryptographiques applicables aux modèles d'IA
Études de cas où la cryptographie améliore la sécurité de l'IA
• Aperçus de Shafi Goldwasser
Contributions clés à la théorie cryptographique
Application des principes de Goldwasser à la sécurité de l'IA
• Développement de modèles de langages garantis sûrs
Mécanismes pour garantir la confidentialité et l'intégrité des données
Techniques pour protéger le comportement des modèles
• Calcul multipartite sécurisé (SMPC)
Principes du SMPC
Applications dans l'IA pour prévenir les fuites de données
• Preuves à divulgation nulle de connaissance dans l'IA
Introduction aux preuves à divulgation nulle de connaissance
Applications pratiques pour vérifier les revendications des modèles d'IA sans révéler de données internes
• Confidentialité différentielle dans les systèmes d'IA
Concepts de confidentialité différentielle
Mise en œuvre de la confidentialité différentielle dans l'entraînement des modèles d'IA
• Défis et limitations
Limitations des techniques cryptographiques actuelles dans l'IA
Risques potentiels et comment les atténuer
• Perspectives d'avenir
Tendances émergentes en cryptographie pour la sécurité de l'IA
Opportunités de recherche et domaines de développement
• Conclusion du cours et points à retenir
Récapitulatif des leçons clés
Discussion sur les approches interdisciplinaires de la sécurité de l'IA

---

Matières

Computer Science