Resumen
En este laboratorio, construirás un Chatbot que responda preguntas sobre los servicios de AWS. El diseño de este laboratorio está orientado a que experimentes cómo desplegar modelos de lenguaje grande (LLM), integrar dicho modelo con fuentes de datos de Amazon Kendra y construir un Chatbot en Amazon Lex V2 que consulte al LLM y use Generación Incrementada por Recuperación (RAG) para encontrar respuestas a las preguntas de los usuarios. Este laboratorio te ayudará a entender cómo complementar las capacidades nativas de un modelo de lenguaje con información adicional.
El Chatbot que construirás tiene tres componentes principales: el modelo base Flan T5-XL, Langchain y el índice de Kendra. Flan T5-XL es un modelo de lenguaje grande alojado en Amazon SageMaker. Langchain es un marco que se utiliza para capturar el índice de Kendra (compuesto por documentación de AWS). Luego, estos documentos y las preguntas ingresadas en la ventana de texto del Chatbot se envían al modelo Flan para generar respuestas. Este laboratorio te ayudará a obtener una comprensión integral de cómo utilizar Lex V2 para construir la interfaz del Chatbot y cómo usar varios servicios de AWS para potenciar las capacidades del modelo de lenguaje.
Al final de este laboratorio, deberías ser capaz de realizar las siguientes acciones:
- Explicar cómo usar la Generación Incrementada por Recuperación (RAG) para mejorar la salida generada por aplicaciones de IA generativa.
- Desplegar un Chatbot de Lex soportado por un modelo de lenguaje grande.
- Conectar Langchain al modelo lanzado en Amazon SageMaker.
Para este laboratorio, es necesario estar familiarizado con aplicaciones contenedorizadas y tener conocimientos básicos de aprendizaje automático. Deberías tener conocimientos básicos de varios servicios de AWS, incluyendo AWS CodeBuild, AWS Lambda, AWS CloudFormation, Amazon Kendra y Amazon Lex. Además, deberías haber completado el curso Introducción a Amazon Kendra.
Este laboratorio requiere aproximadamente 75 minutos para completarse.
Este laboratorio utiliza varios iconos para llamar tu atención sobre diferentes tipos de instrucciones y advertencias. La siguiente lista explica el propósito de cada icono:
- Comando: Comando que debes ejecutar.
- Salida esperada: Ejemplo de salida que puedes usar para verificar el contenido de la salida del comando o del archivo editado.
- Nota: Sugerencias, consejos o directrices importantes.
- Más información: Indica dónde puedes encontrar más información específica.
- Recordatorio: Información con impacto o importancia especial (si no presta atención a esta información, no causará grandes problemas en el dispositivo o los datos, pero podría requerir la repetición de ciertos pasos).
- Advertencia: Acciones no reversibles que podrían causar la falla del comando o del proceso (incluyendo advertencias sobre configuraciones que no se pueden cambiar después).
- Consideración: Tómate un momento para pensar cómo aplicar un concepto en tu entorno o discutir el tema actual con otros.
- Contenido del archivo: Muestra un bloque de código del script o contenido del archivo que necesitas ejecutar, es contenido preconstruido para ti.