Apprentissage automatique haute performance, apprentissage profond et science des données - Principes et pratique

Aperçu

Master high-performance computing principles for machine learning and deep learning, focusing on practical implementation strategies and advanced techniques for optimizing data science workflows.

Programme

• Introduction à l'informatique haute performance (HPC) dans l'IA
Aperçu des concepts de HPC et de son importance dans l'IA
Principales différences entre l'informatique traditionnelle et la HPC
• Fondements de l'apprentissage automatique
Apprentissage supervisé vs non supervisé
Algorithmes clés : régression linéaire, arbres de décision, regroupement
• Fondamentaux de l'apprentissage profond
Réseaux neuronaux : architecture et entraînement
Modèles clés d'apprentissage profond : CNN, RNN, Transformers
• Architecture de l'informatique haute performance
Calcul parallèle et son rôle dans l'apprentissage machine
Aperçu des CPU, GPU, TPU et FPGA
• Optimisation des flux de travail d'apprentissage automatique
Prétraitement des données et ingénierie des caractéristiques à grande échelle
Techniques efficaces d'ajustement des hyperparamètres
• Techniques avancées d'apprentissage profond
Apprentissage par transfert et ajustement fin des modèles
Déploiement de modèles dans des environnements de production
• Apprentissage automatique distribué
Cadres pour la formation distribuée : TensorFlow, PyTorch, Horovod
Gestion de la distribution des données et de la synchronisation
• Profilage et optimisation des performances
Outils de profilage et métriques de performance
Techniques d'optimisation de la mémoire et réduction du temps de calcul
• Pratiques avancées en science des données
Gestion efficace de grands ensembles de données
Automatisation et orchestration des pipelines de données
• Études de cas et mise en œuvre pratique
Études de cas industrielles présentant le HPC dans les applications d'IA
Projets pratiques : mise en œuvre de solutions HPC dans des scénarios réels
• Tendances futures en IA et HPC
Technologies émergentes dans l'accélération de l'IA
Considérations éthiques et défis des systèmes d'IA haute performance
• Projet final
Conception et mise en œuvre d'une solution haute performance pour une tâche complexe d'IA
Présentation et révision par les pairs des résultats du projet

---

Matières

Data Science