Transformers et NLP : Affiner les Modèles avec Hugging Face

Aperçu

Transformers, Fine-Tuning, and Model Evaluation is designed for learners with deep learning and NLP experience who want to master transformer architectures, fine-tune pre-trained models using Hugging Face, and deploy production-ready NLP solutions. You'll begin by exploring the transformer architecture in depth — including self-attention mechanisms, positional encodings, and model families like BERT, GPT, and T5.

Next, you'll learn to prepare datasets, fine-tune models for classification tasks, and evaluate results using metrics like F1, precision, and confusion matrices. The third module covers reproducibility and version control using DVC and Git, along with publishing models to the Hugging Face Hub.

Finally, you'll build and deploy transformer inference APIs using FastAPI, optimize performance through quantization, and integrate CI/CD practices for production systems. By the end of this course, you will:

- Apply transformer architectures to solve real-world NLP tasks - Fine-tune and evaluate pre-trained models using Hugging Face Transformers and Datasets - Build reproducible ML pipelines with DVC and Git version control - Deploy and test transformer-based inference APIs using FastAPI Disclaimer:

This is an independent educational resource created by Board Infinity for informational and educational purposes only.

This course is not affiliated with, endorsed by, sponsored by, or officially associated with any company, organization, or certification body unless explicitly stated. The content provided is based on industry knowledge and best practices but does not constitute official training material for any specific employer or certification program.

All company names, trademarks, service marks, and logos referenced are the property of their respective owners and are used solely for educational identification and comparison purposes.

Programme

• Architecture et Fondations des Transformers
Couvre les composants clés et les mécanismes de l'architecture des transformers, y compris l'auto-attention, les embeddings et les familles de modèles pour les tâches NLP modernes. Durée : 4 heures.
• Affinage des modèles pré-entraînés
Se concentre sur le chargement et la préparation des ensembles de données en utilisant Hugging Face Datasets, l'affinement des modèles transformers pour les tâches de classification, et l'évaluation des performances à l'aide de métriques standardisées et de matrices de confusion. Durée : 4 heures.
• Évaluation, Reproductibilité et Contrôle de version
Couvre la mise en œuvre de pipelines ML reproductibles en utilisant DVC, le suivi des modèles et des métriques avec Git et DVC, et le partage des résultats sur le Hugging Face Hub. Durée : 4 heures.
• Déploiement et Intégration des modèles Transformers
Couvre le déploiement de transformers affinés en tant qu'API avec FastAPI, l'évaluation des points de terminaison déployés pour la précision et la latence, et l'intégration de la surveillance et des tests pour la préparation à la production. Durée : 4 heures.

---

Enseigné par

Board Infinity

---

Matières

Computer Science