L'IA pour les Débutants : À l'intérieur des Grands Modèles de Langage

Aperçu

Understand how LLMs actually work under the hood from scratch with practical and fun lessons. No prior knowledge required!Learn the fundamentals of Large Language Models with engaging, beginner-friendly explanationsGain practical experience and a deeper understanding of both the benefits and shortcomings of LLMs through hands-on exercisesUnderstand the breakthroughs that have enabled the creation of frontier models that power ChatGPTGo beyond the basics to understand how LLMs predict the next word and whether they are truly Artificial Intelligence

Programme

• Introduction
Introduction
Exercice : Rencontrez vos camarades de classe et votre instructeur
Ressources du cours
• Comment fonctionnent les LLM
Introduction aux LLM
Jetons
Machines à deviner les mots ?
Penser comme des LLM - Lancer un dé
Le modèle Transformer
À l'intérieur des LLM
Signification de GPT
Exercice : Visualiser l'architecture LLM
Le processus d'entraînement
Modèle de base vs. Modèle assistant
Penser comme des LLM - La malédiction de l'inversion
Exercice : La malédiction de l'inversion
Intelligence artificielle générale (AGI)
Exercice : Utiliser ChatGPT pour lire la recherche
Le monde des LLM
• Recherche en IA et quête de l'intelligence artificielle générale
Introduction - À travers le miroir...
Interprétabilité mécaniste - Partie 1
Interprétabilité mécaniste - Partie 2
Lois d'échelle - Taille du modèle
Lois d'échelle - Taille du jeu de données
Lois d'échelle - Calcul d'entraînement
• Où aller à partir de maintenant ?
Continuons à apprendre !
Révisez ce module !

---

Enseigné par

Scott Kerr

---

Matières

Computer Science