Introducción a los modelos de transformadores para PLN: Unidad 2

Resumen

This course covers the fundamentals and advanced applications of BERT and GPT models. You will learn how BERT processes text, including tokenization and vectorization, and practice fine-tuning BERT for tasks such as sequence classification, token classification, and question answering.

The course also explains how GPT generates text, adapts to different writing styles, and can be fine-tuned for tasks like translating English to code. Additional topics include semantic search using Siamese BERT and multi-task learning with GPT through prompt engineering.

By the end of the course, you will have the practical skills and theoretical understanding needed to apply BERT and GPT to various natural language processing problems.

Programa

• Introducción a Modelos Transformadores para PLN: Unidad 2
Este módulo ofrece una exploración exhaustiva de los modelos modernos basados en transformadores para el procesamiento del lenguaje natural. Cubre las arquitecturas y mecanismos fundamentales de BERT y GPT, profundizando en su preentrenamiento, ajuste fino y aplicaciones prácticas. A través de lecciones prácticas, los alumnos se involucran en tareas del mundo real como clasificación de secuencias y tokens, respuesta a preguntas, búsqueda semántica y generación de texto. El módulo enfatiza tanto la comprensión teórica como las habilidades prácticas, permitiendo a los estudiantes aprovechar BERT y GPT para una amplia gama de desafíos de PLN, incluyendo el aprendizaje multitarea y la adaptación de modelos a nuevos dominios o estilos de escritura.

Impartido por

Pearson

Materias

Computer Science