Apprentissage automatique haute performance, apprentissage profond et science des données - Principes et pratique

Aperçu

Maîtrisez les principes de l'informatique haute performance pour l'apprentissage automatique et l'apprentissage profond, en vous concentrant sur les stratégies de mise en œuvre pratiques et les techniques avancées pour optimiser les flux de travail en science des données.

Programme

• Introduction à l'informatique haute performance (HPC) dans l'IA
Aperçu des concepts de HPC et de son importance dans l'IA
Principales différences entre l'informatique traditionnelle et la HPC
• Fondements de l'apprentissage automatique
Apprentissage supervisé vs non supervisé
Algorithmes clés : régression linéaire, arbres de décision, regroupement
• Fondamentaux de l'apprentissage profond
Réseaux neuronaux : architecture et entraînement
Modèles clés d'apprentissage profond : CNN, RNN, Transformers
• Architecture de l'informatique haute performance
Calcul parallèle et son rôle dans l'apprentissage machine
Aperçu des CPU, GPU, TPU et FPGA
• Optimisation des flux de travail d'apprentissage automatique
Prétraitement des données et ingénierie des caractéristiques à grande échelle
Techniques efficaces d'ajustement des hyperparamètres
• Techniques avancées d'apprentissage profond
Apprentissage par transfert et ajustement fin des modèles
Déploiement de modèles dans des environnements de production
• Apprentissage automatique distribué
Cadres pour la formation distribuée : TensorFlow, PyTorch, Horovod
Gestion de la distribution des données et de la synchronisation
• Profilage et optimisation des performances
Outils de profilage et métriques de performance
Techniques d'optimisation de la mémoire et réduction du temps de calcul
• Pratiques avancées en science des données
Gestion efficace de grands ensembles de données
Automatisation et orchestration des pipelines de données
• Études de cas et mise en œuvre pratique
Études de cas industrielles présentant le HPC dans les applications d'IA
Projets pratiques : mise en œuvre de solutions HPC dans des scénarios réels
• Tendances futures en IA et HPC
Technologies émergentes dans l'accélération de l'IA
Considérations éthiques et défis des systèmes d'IA haute performance
• Projet final
Conception et mise en œuvre d'une solution haute performance pour une tâche complexe d'IA
Présentation et révision par les pairs des résultats du projet

Sujets

Science des données