Overview
Información general del laboratorio
En este laboratorio, creará un chatbot que responde preguntas sobre los servicios de AWS. El laboratorio está diseñado para proporcionarle experiencia práctica en la implementación de un modelo de lenguaje grande (LLM), su integración con un origen de datos de Amazon Kendra y la creación de un chatbot de Amazon Lex V2 que consulte su LLM y utilice la generación aumentada de recuperación (RAG) para encontrar respuestas a las preguntas de los usuarios. Este laboratorio lo ayudará a comprender cómo complementar las capacidades nativas de un modelo de lenguaje con información adicional.
El chatbot que creará tiene tres componentes principales: el modelo básico Flan T5-XL, Langchain y un índice de Kendra. Flan T5-XL es un modelo de lenguaje grande alojado en Amazon SageMaker. Langchain es un marco de trabajo utilizado para ingerir un índice de Kendra compuesto por documentación de AWS. Estos documentos, junto con las preguntas que se ingresaron en la ventana de texto del chatbot, luego se pasan al modelo Flan que genera una respuesta. Este laboratorio le proporciona una comprensión integral de cómo crear una interfaz de chatbot utilizando Lex V2 y cómo utilizar varios servicios de AWS para mejorar las capacidades de un modelo de lenguaje.
ObjetivosAl finalizar este laboratorio, podrá realizar lo siguiente:
- Explicar cómo se puede utilizar la generación aumentada de recuperación para mejorar el resultado producido por las aplicaciones de IA generativa.
- Implementar un chatbot Lex impulsado por un modelo de lenguaje grande.
- Conectar Langchain a un modelo iniciado en Amazon SageMaker.
Para este laboratorio se requiere familiaridad con aplicaciones en contenedores y conceptos básicos de machine learning. Debe tener conocimientos básicos sobre una variedad de servicios de AWS, incluyendo AWS CodeBuild, AWS Lambda, AWS Cloudformation, Amazon Kendra y Amazon Lex. También tiene que haber completado el curso Getting Started with Amazon Kendra (Introducción a Amazon Kendra).
DuraciónEl tiempo estimado para completar este laboratorio es de 75 minutos.
Significados de los íconosA lo largo de este laboratorio, se utilizan varios íconos para llamar la atención sobre diferentes tipos de instrucciones y notas. En la siguiente lista, se explica el propósito de cada ícono:
- Comando: un comando que debe ejecutar.
- Resultado esperado: un resultado de ejemplo que puede utilizar para verificar el resultado de un comando o archivo editado.
- Nota: una sugerencia, consejo u orientación importante.
- Learn more (Más información): dónde encontrar más información.
- Caution (Precaución): Información de especial interés o importancia (no es tan importante como para causar problemas con el equipo o los datos si la omite, pero podría ocasionar la necesidad de repetir ciertos pasos).
- WARNING (ADVERTENCIA): una acción que es irreversible y que podría generar un error en un comando o proceso (incluye advertencias sobre configuraciones que no se pueden modificar después de realizarlas).
- Consider (Considere): un momento para hacer una pausa y considerar cómo aplicaría un concepto en su propio entorno o para iniciar una conversación sobre el tema en cuestión.
- File contents (Contenidos del archivo): un bloque de código donde se muestra el contenido de un script o archivo que debe ejecutar y se ha creado previamente para usted.
- Task complete (Tarea completada): un punto de conclusión o resumen del laboratorio.