Aperçu
Dans ce laboratoire, vous allez construire un chatbot capable de répondre aux questions sur les services AWS. Ce laboratoire vous offre une expérience pratique en déployant un grand modèle de langage (LLM), en intégrant une source de données Amazon Kendra, et en créant un chatbot Amazon Lex V2 qui utilise la génération augmentée par recherche (RAG) pour exécuter des requêtes sur le LLM. À travers ce laboratoire, vous comprendrez comment améliorer les fonctionnalités de base des modèles de langage.
Le chatbot est composé de trois principaux composants : le modèle de fondation Flan T5-XL, Langchain, et l'index Kendra. Flan T5-XL est un grand modèle de langage hébergé sur Amazon SageMaker. Langchain est un framework pour intégrer l'index Kendra constitué de documents AWS. Ces documents et les questions saisies dans le texte du chatbot sont transmises au modèle Flan pour générer des réponses. Ce laboratoire vous apprendra de manière complète à construire une interface de chatbot à l'aide de Lex V2 et à utiliser divers services AWS pour améliorer les fonctionnalités du modèle de langage.
À la fin de ce laboratoire, vous serez capable de :
- Expliquer comment utiliser la génération augmentée par recherche pour améliorer les sorties produites par les applications AI génératives.
- Déployer un chatbot Lex utilisant un grand modèle de langage.
- Connecter Langchain à un modèle exécuté sur Amazon SageMaker.
Pour réaliser ce laboratoire, vous devez être familier avec les applications conteneurisées et les concepts de base de l'apprentissage automatique. Vous aurez également besoin d'une connaissance de base des services AWS comme AWS CodeBuild, AWS Lambda, AWS CloudFormation, Amazon Kendra et Amazon Lex. De plus, vous devez avoir complété le cours Getting Started with Amazon Kendra.
La durée de ce laboratoire est d'environ 75 minutes.
Ce laboratoire utilise divers icônes pour attirer l'attention sur certaines étapes et notes. Voici la signification de chaque icône :
- Commande : Représente une commande que vous devez exécuter.
- Sortie attendue : Affiche un exemple de sortis pour vérifier vos commandes ou fichiers modifiés.
- Note : Fournit des astuces ou des orientations importantes.
- Plus d'informations : Indique où trouver des informations détaillées.
- Avertissement : Fournit des notes ou des informations importantes pouvant nécessiter une répétition des étapes spécifiques.
- Avertissement : Indique une action irréversible pouvant affecter l'échec d'une commande ou d'un processus.
- Considération : Suggère de réfléchir à la manière d'appliquer un concept à votre propre environnement ou de discuter du sujet en cours d'apprentissage.
- Contenu du fichier : Indique le contenu d'un fichier ou d'un script pré-réalisé que vous devez exécuter.
- Tâche terminée : Indique un résumé ou les points essentiels du laboratoire.
Université