Generative AI and LLMs: Architecture and Data Preparation

Aperçu

Ce cours court d'IBM, faisant partie du Certificat Professionnel en Ingénierie de l'IA Générative avec les LLMs, vous enseigne les bases de l'utilisation de l'IA générative et des Modèles de Langage de Grande Taille (LLMs). Il est parfait pour les data scientists, ingénieurs en apprentissage automatique, ingénieurs en deep learning et ingénieurs en IA actuels et futurs.

Dans ce cours, vous allez :

• Explorer différents types d'IA générative et leurs applications réelles.
• Acquérir des connaissances pour différencier les diverses architectures et modèles d'IA générative, tels que les Réseaux de Neurones Récurrents (RNNs), Transformers, Réseaux Antagonistes Génératifs (GANs), Autoencodeurs Variationnels (VAEs), et Modèles de Diffusion.
• Comprendre les différentes approches de formation utilisées pour chaque modèle.
• Apprendre à expliquer l'utilisation des LLMs, comme les Transformers Génératifs Pré-entrainés (GPT) et les Représentations Encodeuses Bidirectionnelles de Transformers (BERT).
• Découvrir le processus de tokenisation, les méthodes, et l'utilisation des tokenizers pour la tokenisation basée sur les mots, les caractères et les sous-mots.
• Comprendre comment utiliser les chargeurs de données pour la formation de modèles d'IA générative et lister les bibliothèques PyTorch pour la préparation et la gestion des données.

Les connaissances acquises vous aideront à utiliser les bibliothèques d'IA générative dans Hugging Face, implémenter la tokenisation et créer un chargeur de données NLP.

Des connaissances de base en Python et PyTorch, ainsi qu'une sensibilisation à l'apprentissage automatique et aux réseaux de neurones, sont avantageuses mais pas strictement nécessaires.

Université :

IBM
Fournisseur :

Coursera
Catégories :

Cours d'IA Générative, Cours PyTorch, Cours sur les Modèles de Diffusion, Cours Hugging Face, Cours sur les Transformers, Cours sur les Autoencodeurs Variationnels

Sujets