AIOps : CI/CD pour les systèmes d'IA

Aperçu

DevOps est un concept qui existe depuis longtemps et a été appliqué au ML et, récemment, aux LLM. Dans ce cours, AIOps :

CI/CD pour les systèmes d'IA, vous apprendrez à appliquer le CI/CD, un concept fondamental de DevOps, au ML, à l'IA et aux LLM.

Tout d'abord, vous explorerez comment les pipelines CI/CD fonctionnent avec les modèles ML. Ensuite, vous découvrirez comment déployer dans des environnements cloud en utilisant un pipeline CI/CD.

Enfin, vous apprendrez comment tester automatiquement le pipeline à toutes les étapes. Lorsque vous aurez terminé ce cours, vous aurez les compétences et les connaissances des pipelines CI/CD nécessaires pour produire et appliquer ces pipelines à vos propres modèles ML/IA/LLM.

Programme

• Introduction à AIOps et CI/CD pour l'IA
Aperçu des principes DevOps
Introduction aux concepts CI/CD
Importance du CI/CD dans l'IA et le ML
• Pipelines CI/CD pour les modèles d'apprentissage automatique
Concevoir un pipeline CI/CD pour le ML
Outils et plateformes pour le CI/CD ML (Jenkins, GitLab, etc.)
Contrôle de version et suivi de modèle (Git, DVC)
• Mise en œuvre de pipelines CI/CD pour l'IA
Intégrer le CI/CD dans les flux de travail d'apprentissage automatique
Automatisation du prétraitement des données et de l'ingénierie des caractéristiques
Entraînement et validation continus des modèles
• Déploiement de modèles d'IA avec CI/CD
Stratégies pour déployer des modèles ML dans les environnements cloud
Utilisation des services cloud (AWS, Azure, GCP) pour le déploiement de modèles
Infrastructure en tant que code pour les systèmes d'IA (Terraform, Ansible)
• CI/CD pour les grands modèles de langage (LLMs)
Considérations spéciales pour les LLMs dans le CI/CD
Techniques pour un déploiement efficace des LLMs
Surveiller et mettre à jour les LLMs déployés
• Tests dans les pipelines CI/CD
Cadres et stratégies de tests automatiques
Tests unitaires et tests d'intégration pour les systèmes d'IA
Garantir la performance et la fiabilité des modèles grâce aux tests
• Sujets avancés de CI/CD
Gérer la dérive des données et le réentraînement des modèles
Mettre en œuvre des tests A/B et des déploiements canari pour les modèles d'IA
Sécurité et conformité dans les pipelines CI/CD pour l'IA
• Études de cas et applications réelles
Évaluation des implémentations CI/CD réussies dans l'IA
Leçons apprises des leaders de l'industrie
• Conclusion du cours et application pratique
Meilleures pratiques pour le CI/CD dans le développement d'IA
Projet pratique : Créer un pipeline CI/CD pour un modèle d'IA exemple

Enseigné par

David Harris

Sujets

Informatique