Aperçu
Informations générales du laboratoire
Dans ce laboratoire, vous allez créer un chatbot qui répond aux questions sur les services AWS. Le laboratoire est conçu pour vous fournir une expérience pratique de la mise en œuvre d'un modèle de langage large (LLM), de son intégration avec une source de données Amazon Kendra, et de la création d'un chatbot Amazon Lex V2 qui interroge votre LLM et utilise la génération augmentée de récupération (RAG) pour trouver des réponses aux questions des utilisateurs. Ce laboratoire vous aidera à comprendre comment compléter les capacités natives d'un modèle de langage avec des informations supplémentaires.
Le chatbot que vous allez créer comporte trois composants principaux : le modèle de base Flan T5-XL, Langchain et un index Kendra. Flan T5-XL est un modèle de langage large hébergé sur Amazon SageMaker. Langchain est un cadre de travail utilisé pour ingérer un index Kendra composé de documentation AWS. Ces documents, ainsi que les questions saisies dans la fenêtre de texte du chatbot, sont ensuite transmis au modèle Flan qui génère une réponse. Ce laboratoire vous offre une compréhension complète de la création d'une interface de chatbot utilisant Lex V2 et de l'utilisation de divers services AWS pour améliorer les capacités d'un modèle de langage.
ObjectifsÀ la fin de ce laboratoire, vous serez capable de :
- Expliquer comment la génération augmentée de récupération peut être utilisée pour améliorer les résultats produits par les applications d'IA générative.
- Implémenter un chatbot Lex alimenté par un modèle de langage large.
- Connecter Langchain à un modèle initié sur Amazon SageMaker.
Ce laboratoire nécessite une familiarité avec les applications en conteneurs et les concepts de base du machine learning. Vous devez avoir des connaissances de base sur une variété de services AWS, y compris AWS CodeBuild, AWS Lambda, AWS Cloudformation, Amazon Kendra et Amazon Lex. Vous devez également avoir suivi le cours Getting Started with Amazon Kendra (Introduction à Amazon Kendra).
DuréeLe temps estimé pour compléter ce laboratoire est de 75 minutes.
Signification des icônesTout au long de ce laboratoire, plusieurs icônes sont utilisées pour attirer l'attention sur différents types d'instructions et de notes. La liste suivante explique l'objectif de chaque icône :
- Commande : une commande que vous devez exécuter.
- Résultat attendu : un résultat d'exemple que vous pouvez utiliser pour vérifier le résultat d'une commande ou d'un fichier édité.
- Note : une suggestion, un conseil ou une orientation importante.
- Learn more (En savoir plus) : où trouver plus d'informations.
- Caution (Prudence) : Information d'intérêt ou d'importance particulière (ce n'est pas aussi critique que pour provoquer des problèmes avec l'équipement ou les données si vous l'omettez, mais cela pourrait nécessiter la répétition de certaines étapes).
- WARNING (AVERTISSEMENT) : une action qui est irréversible et qui pourrait générer une erreur dans une commande ou un processus (comprend des avertissements sur des configurations qui ne peuvent pas être modifiées après leur mise en place).
- Consider (Considérez) : un moment pour faire une pause et réfléchir à la manière d'appliquer un concept dans votre propre environnement ou pour initier une conversation sur le sujet en question.
- File contents (Contenu du fichier) : un bloc de code où
Programme
Enseigné par
Étiquettes