Sécuriser l'IA générative

Aperçu

This course offers a comprehensive exploration into the crucial security measures necessary for the deployment and development of various AI implementations, including large language models (LLMs) and Retrieval-Augmented Generation (RAG). It addresses critical considerations and mitigations to reduce the overall risk in organizational AI system development processes.

Experienced author and trainer Omar Santos emphasizes “secure by design” principles, focusing on security outcomes, radical transparency, and building organizational structures that prioritize security. You will be introduced to AI threats, LLM security, prompt injection, insecure output handling, and Red Team AI models.

The course concludes by teaching you how to protect RAG implementations. You learn about orchestration libraries such as LangChain, LlamaIndex, and others, as well as securing vector databases, selecting embedding models, and more.

Programme

• Sécurisation de l'IA Générative
Ce module offre un aperçu complet de la sécurité de l'IA générative, couvrant les menaces et les stratégies d'atténuation pour les modèles de langage étendu et les systèmes connexes. Les sujets incluent l'injection de prompts, la gestion des sorties non sécurisées, le empoisonnement des données d'entraînement, le déni de service du modèle, les vulnérabilités de la chaîne d'approvisionnement, la divulgation d'informations sensibles, la conception de plugins non sécurisée, l'agence excessive, la dépendance excessive, le vol de modèle, les tests d’agression ('red teaming'), et la sécurisation des mises en œuvre de génération augmentée par récupération (RAG). Les apprenants acquièrent des connaissances pratiques sur les cadres industriels, les meilleures pratiques, et les outils pour protéger les technologies d'IA dans les environnements de production.

Enseigné par

Pearson

Matières

Computer Science