Éthique et Sécurité dans l'IA Ouverte

Aperçu

The Ethics and Safety in Open AI course equips learners with the frameworks and tools needed to ensure responsible use of generative AI models. The course begins with bias detection and mitigation, where learners identify harmful patterns in datasets and outputs, apply quantitative evaluation techniques, and implement mitigation strategies.

Next, learners design and test safety guardrails, including input validation, output filtering, content moderation, and red-teaming practices to strengthen AI systems against misuse. The final module covers content provenance, licensing, and compliance, where learners apply watermarking techniques, implement provenance standards such as C2PA, and evaluate datasets and models for licensing adherence.

Regulatory frameworks like GDPR and CCPA are also introduced. Through hands-on exercises, learners will build safety layers, implement provenance metadata, and prepare compliance-ready audit documentation.

By the end, learners will be able to design open AI applications that prioritize safety, fairness, and accountability.

Programme

• **Module 1 : Détection et Atténuation des Biais**
Introduction aux biais dans l'IA
Identification des motifs nuisibles dans les jeux de données et les sorties
Techniques d'évaluation quantitative pour la détection des biais
Stratégies d'atténuation pour la réduction des biais
• **Module 2 : Conception et Test des Garde-fous de Sécurité**
Techniques de validation des entrées
Méthodes de filtrage des sorties
Stratégies de modération de contenu
Introduction aux pratiques de red-teaming
Renforcement des systèmes d'IA contre les abus
• **Module 3 : Provenance du Contenu, Licence et Conformité**
Techniques de filigranage pour la provenance du contenu
Mise en œuvre des normes de provenance (par ex., C2PA)
Évaluation des jeux de données et modèles pour la conformité aux licences
Introduction aux cadres réglementaires (par ex., RGPD, CCPA)
Préparation de la documentation d'audit conforme
• **Exercices Pratiques**
Construction de couches de sécurité dans les systèmes d'IA
Mise en œuvre et gestion des métadonnées de provenance
Préparation et conduite des audits de conformité
• **Conclusion du Cours**
Revue des concepts clés en sécurité et éthique de l'IA
Meilleures pratiques pour concevoir des applications d'IA ouvertes et responsables
Assurer équité, responsabilité et sécurité dans le développement de l'IA

---

Enseigné par

Professionals from the Industry

---

Matières

Artificial Intelligence