Aperçu
La demande pour l'IA générative devrait croître de plus de 46% par an d'ici 2030, faisant de ce moment une période opportune pour les ingénieurs en IA, développeurs, data scientists, et professionnels du machine learning pour améliorer leurs compétences. Ce cours se concentre sur l'architecture des grands modèles de langage (LLM) et la préparation des données, fournissant l'expertise recherchée par les employeurs.
Ce cours offre des perspectives sur les applications pratiques de l'IA générative et couvre les architectures clés telles que les réseaux neuronaux récurrents (RNNs), les transformateurs, les réseaux antagonistes génératifs (GANs), les autoencodeurs variationnels (VAEs), et les modèles de diffusion. Les participants exploreront diverses méthodologies d'entraînement pour ces modèles et plongeront dans les grands modèles de langage comme les transformateurs génératifs pré-entraînés (GPT) et les représentations d'encodeur bidirectionnelles des transformateurs (BERT).
En outre, le cours couvre le processus de tokenisation, y compris différentes méthodes et l'utilisation de tokenizeurs pour la tokenisation basée sur les mots, les caractères, et les sous-mots. Les étudiants acquerront une expérience pratique avec les chargeurs de données pour l'entraînement des modèles d'IA générative, en utilisant les bibliothèques PyTorch et les ressources de Hugging Face, et mettront en œuvre la tokenisation en créant un chargeur de données NLP.
Si vous êtes prêt à maîtriser l'architecture LLM de l'IA générative et la préparation des données, inscrivez-vous dès aujourd'hui pour enrichir votre CV avec des compétences en demande. Les prérequis incluent des connaissances de base en Python et PyTorch et une compréhension générale de l'apprentissage automatique et des réseaux neuronaux, bien que cela ne soit pas strictement nécessaire.
Offert par edX, ce cours appartient à des catégories telles que Cours de Réseaux Neuronaux, Cours d'IA Générative, Cours de PyTorch, Cours Hugging Face, et Cours de Transformateurs.
