Le guide de l'explorateur pour l'ingénierie de plateforme GenAI cloud native

Aperçu

Découvrez une feuille de route pratique pour construire une infrastructure d'intelligence artificielle générative sur Kubernetes, allant des configurations viables minimales aux fonctionnalités avancées telles que les passerelles LLM, les bases de données vectorielles, l'équilibrage de charge et les techniques d'optimisation des performances.

Programme

• Introduction à Cloud Native GenAI
Aperçu de Cloud Native et de l'IA Générative
Le rôle de Kubernetes dans l'infrastructure IA
• Mise en place d'une plateforme GenAI Viable Minimale
Installation et configuration de Kubernetes
Déploiement de services IA de base
• Exploration de Kubernetes pour GenAI
Concepts de Kubernetes : Pods, Nodes, et Services
Orchestration des charges de travail IA
• Construction et intégration de passerelles LLM
Comprendre l'architecture des LLM (Modèles de Langage de Grande Taille)
Déploiement et configuration des passerelles LLM sur Kubernetes
• Implémentation de bases de données vectorielles
Introduction aux bases de données vectorielles
Mise en place et utilisation du stockage vectoriel pour les applications IA
• Équilibrage de charge sur les plateformes GenAI
Techniques et outils d'équilibrage de charge
Meilleures pratiques pour la gestion du trafic dans les services IA
• Techniques d'optimisation des performances
Surveillance et profilage des charges de travail IA
Techniques pour améliorer les performances des applications IA
• Fonctionnalités avancées et améliorations
Utilisation des capacités d'auto-scaling et d'auto-guérison
Meilleures pratiques de sécurité pour les plateformes GenAI
• Études de cas et applications réelles
Exemples de mises en œuvre réussies de Cloud Native GenAI
Leçons apprises et meilleures pratiques
• Tendances futures dans Cloud Native GenAI
Technologies émergentes et innovations
Se préparer pour l'avenir de l'infrastructure IA
• Conclusion et feuille de route au-delà du cours
Récapitulatif des apprentissages clés
Ressources pour une étude plus approfondie et l'implication communautaire

Sujets

Informatique