Fondamentaux de l'IA générative et des grands modèles de langage : Théorie et pratique

Aperçu

ABOUT THE COURSE:

This course provides a rigorous exploration of modern generative AI, covering latent-variable models such as Autoencoders, VAEs, GANs, and Diffusion Models that form the backbone of contemporary generative systems.Learners will develop a deep understanding of probabilistic modeling, adversarial training dynamics, denoising diffusion processes, and latent space manipulation for high-fidelity data generation.The sequence modeling module bridges classical NLP with modern architectures, introducing RNNs, LSTMs, and culminating in the Transformer framework that powers today’s Large Language Models.Emphasis is placed on mathematical foundations, architectural intuition, and practical implementation using widely adopted deep learning libraries.By the end of the course, learners will be equipped to analyze, design, and implement state-of-the-art generative models and LLM-based systems across diverse application domains.INTENDED AUDIENCE:

UG and PG students of all the AICTE affiliated institutionsPREREQUISITES:

Students must have completed introductory courses in Programming and Machine Learning/Deep Learning.Knowledge of Python and basic mathematical concepts is necessary to follow the hands-on exercises.INDUSTRY SUPPORT:

Generative AI and Large Language Models are now core technologies adopted across global and Indian industries, including software, healthcare, finance, retail, manufacturing, and creative design. Companies such as Google, Microsoft, Meta, Amazon, NVIDIA, IBM, OpenAI, and leading Indian organizations like TCS, Infosys, Wipro, LTIMindtree, Tech Mahindra, and Cognizant actively recruit professionals skilled in generative modeling and LLMs.

AI-driven startups such as HuggingFace, Stability AI, Rephrase.ai, Sarvam AI, and Qure.ai also value these competencies for developing foundation models, multimodal AI systems, and domain-specific generative applications. This course equips learners with the theoretical and practical expertise highly recognized and sought after across these industries.

Programme

• Introduction à l'IA générative
Aperçu des modèles génératifs
Applications industrielles
• Modèles à variables latentes
Autoencodeurs
Autoencodeurs variationnels (VAEs)
Réseaux antagonistes génératifs (GANs)
Bases de la modélisation probabiliste
• Modèles génératifs avancés
Modèles de diffusion
Processus de diffusion pour le débruitage
Manipulation de l'espace latent
• Modélisation de séquences et traitement du langage naturel
NLP classique : RNNs et LSTMs
Introduction aux Transformers
Grands modèles de langage (LLMs)
• Fondements mathématiques
Probabilités et statistiques pour l'apprentissage machine
Algèbre linéaire et calcul pour l'apprentissage profond
• Architecture d'apprentissage profond et intuition
Comprendre les architectures de réseaux neuronaux
Dynamique de l'entraînement adversarial
• Mise en œuvre pratique
Pratique avec les autoencodeurs et VAEs en utilisant PyTorch/TensorFlow
Construire des GANs avec des bibliothèques d'apprentissage profond
Implémentation des modèles de diffusion et des Transformers de base
• Applications contemporaines et études de cas
Génération de données haute-fidélité
Systèmes d'IA multimodaux
Applications spécifiques à un domaine de l'IA générative
• Projet de cours
Concevoir et mettre en œuvre un modèle génératif
Développement d'applications réelles
• Conclusion et tendances futures de l'IA générative
Évolution des architectures et des techniques
Considérations éthiques et pratiques exemplaires
• Évaluation
Quiz et devoirs
Présentation et rapport final du projet

---

Enseigné par

Prof. Sriram Ganapathy, Prof. Ashwini Kodipalli, Prof. Baishali Garai

---

Matières

Artificial Intelligence