Aperçu
Dans cet atelier, vous allez créer un chatbot qui répond aux questions concernant les services AWS. Cet atelier est destiné à vous fournir une expérience pratique dans le déploiement d’un grand modèle de langage (LLM), son intégration à une source de données Amazon Kendra et la création d’un chatbot Amazon Lex V2 qui interroge votre LLM et recherche des réponses aux questions des utilisateurs à l’aide de la génération augmentée de récupération (RAG). Cet atelier vous permettra de comprendre la manière de complémenter les capacités natives d’un modèle de langage avec des informations supplémentaires.
Le chatbot que vous allez créer comporte trois composants principaux : un modèle fondamental Flan T5-XL, Langchain et un index Kendra. Le Flan T5-XL est un grand modèle de langage hébergé dans Amazon SageMaker. Langchain est un framework utilisé pour l’ingestion d’un index Kendra composé d’une documentation AWS. Ces documents, ainsi que les questions saisies dans la fenêtre de texte du chatbot, sont ensuite transmis au modèle Flan qui génère une réponse. Cet atelier vous fournit une compréhension générale de la manière de créer une interface de chatbot à l’aide de Lex V2 et d’utiliser les différents services AWS pour améliorer les capacités d’un modèle de langage.
Objectifs
À la fin de cet atelier, vous devrez être en mesure d’effectuer les actions suivantes :
- expliquer comment il est possible d’utiliser la génération augmentée de récupération pour améliorer les résultats produits par les applications d’IA générative ;
- déployer un chatbot Lex alimenté par un grand modèle de langage ;
- connecter Langchain à un modèle lancé dans Amazon SageMaker.
Connaissances techniques préalables
Cet atelier nécessite une maîtrise des applications mises en conteneur et des concepts de base de l’apprentissage automatique. Vous devez disposer de connaissances élémentaires sur plusieurs services AWS, notamment AWS CodeBuild, AWS Lambda, AWS Cloudformation, Amazon Kendra et Amazon Lex. Vous devez également avoir achevé le cours Guide de démarrage avec Amazon Kendra.
Durée
Cet atelier dure environ 75 minutes.
Signification des icônes
De nombreuses icônes sont utilisées dans cet atelier pour attirer l’attention sur différents types d’instructions et de remarques. La liste suivante explique la signification de chaque icône :
- Commande : une demande que vous devez exécuter.
- Sortie attendu : un exemple de résultat que vous pouvez utiliser pour vérifier le résultat d’une commande ou d’un fichier modifié.
- Remarque : un indice, une directive ou un conseil important.
- En savoir plus : un emplacement où trouver davantage d’informations.
- Attention : information présentant un intérêt spécial ou d’une importance particulière (pas assez importante pour causer des problèmes avec l’équipement ou les données si vous n’y faites pas attention, mais qui pourrait vous amener à devoir répéter certaines étapes).
- AVERTISSEMENT : Une action qui est irréversible et susceptible d’avoir une incidence sur l’échec d’une commande ou d’un processus (y compris les avertissements concernant les configurations ne pouvant pas être modifiées après leur mise en place).
- À envisager : Un moment de pause pour réfléchir à la façon dont vous pourriez appliquer un concept dans votre propre environnement ou pour entamer une conversation sur le sujet en question.
- Contenu du fichier : Un bloc de code affichant le contenu d’un script ou d’un fichier que vous devez exécuter et qui a été préalablement créé pour vous.
- Tâche terminée : une conclusion ou un résultat
Programme
Enseigné par
Étiquettes