to build and deploy customized LLMs. Learn to fine-tune open-source LLMs on proprietary data and deploy your customized LLM models using AWS SageMaker and Streamlit.Fine-tune open-source LLMs for custom business purposesDeploy and scale models for enterprise purposes using AWS SageMaker and StreamlitUnderstand and implement QLoRA from theory to codeLearn to preprocess proprietary datasets with chunking, tokenization, and attention maskingMonitor training and performance to ensure optimal business resultsManage cloud resources and optimize for costApply advanced AI engineering techniques including quantization and more
- Introducción
Introducción al curso (Qué estamos construyendo)
Ejercicio: Conoce a tus compañeros de clase y al instructor
Recursos del curso
Plugin de ZTM + Comprensión de tu reproductor de video
Establece tu meta de racha de aprendizaje
- Configurando nuestra cuenta de AWS
Iniciando sesión en AWS
Creación de un usuario IAM
Usando nuestro nuevo usuario IAM
¡Qué hacer en caso de que te hackeen!
- Configuración del entorno AWS Sagemaker
Creación de un dominio SageMaker
Iniciando sesión en nuestro entorno SageMaker
Introducción a JupyterLab
Divirtámonos (+ Más recursos)
- Recopilación, división en bloques, tokenización y carga de nuestro conjunto de datos
Sesiones de Sagemaker, regiones y roles IAM
Examinando nuestro conjunto de datos de HuggingFace
Tokenización y embeddings de palabras
Autenticación de HuggingFace con Sagemaker
Aplicando la función de plantilla a nuestro conjunto de datos
Máscaras de atención y relleno
Desempaquetado con asterisco en Python
Ejemplo de iterador de cadenas, constructor de listas y máscara de atención en Python
Comprensión de lotes
Dividiendo y fragmentando nuestro conjunto de datos
Creación de nuestra función de fragmentación personalizada
Tokenización de nuestro conjunto de datos
Ejecutando nuestra función de fragmentación
Comprendiendo todo el proceso de fragmentación
Cargando los datos de entrenamiento en AWS S3
Revisión del curso
- Comprendiendo LoRA y configurando el estimador de HuggingFace
Configuración de hiperparámetros para el trabajo de entrenamiento
Creación de nuestro estimador de HuggingFace en Sagemaker
Introducción a la adaptación de bajo rango (LoRA)
Ejemplo numérico de LoRA
Resumen de LoRA y cálculo de ahorro de costos
(Opcional) Repaso de multiplicación de matrices
Comprendiendo LoRA programáticamente Parte 1
Comprendiendo LoRA programáticamente Parte 2
Actualizaciones ilimitadas
- Mejorando la velocidad de entrenamiento con Bfloat 16
Bfloat16 vs Float32
Comparando Bfloat16 vs Float32 programáticamente
Implementar un nuevo sistema de vida - al final de la 3ª sección
- Configuración del script de entrenamiento QLoRA con precisión mixta y doble cuantización
Configuración de importaciones y bibliotecas para el script de entrenamiento
Función de análisis de argumentos Parte 1
Función de análisis de argumentos Parte 2
Comprendiendo las advertencias de parámetros entrenables
Introducción a la cuantización
Identificación de capas entrenables para LoRA
Configuración de ajuste fino eficiente de parámetros
Implementar configuración LoRA y entrenamiento con precisión mixta
Comprendiendo la doble cuantización
Creación de la función de entrenamiento Parte 1
Creación de la función de entrenamiento Parte 2
Ejercicio: Síndrome del impostor
Terminando nuestro script de Sagemaker
Accediendo a potentes GPUs con cuotas de AWS
Correcciones finales antes del entrenamiento
- Ejecutando nuestro script de ajuste fino para nuestro LLM
Iniciando nuestro trabajo de entrenamiento
Inspeccionando los resultados de nuestro trabajo de entrenamiento y monitoreando con Cloudwatch
- Desplegando nuestro LLM ajustado
Desplegando nuestro LLM en un endpoint de Sagemaker
Probando nuestro LLM en Sagemaker localmente
Creación de la función Lambda para invocar nuestro endpoint
Creación de API Gateway para desplegar el modelo a través de Internet
Implementación de nuestra aplicación Streamlit
Corrección de la aplicación Streamlit
- Limpiando recursos
¡Felicitaciones y limpieza de recursos de AWS!
- ¿A dónde ir desde aquí?
¡Gracias!
¡Revisa este curso!
Conviértete en un alumno
Guía de aprendizaje
Eventos de ZTM cada mes
Recomendaciones en LinkedIn
