Hacker Éthique Certifié (CEH) : Unité 8

Aperçu

This course is designed to equip you with the knowledge to protect large language models (LLMs) and AI systems from emerging threats. You will explore critical security challenges such as prompt injection, training data poisoning, and model theft.

You will gain insights into frameworks like MITRE ATLAS and NIST, and learn to implement best practices for securing AI ecosystems. By the end of this course, you will be proficient in identifying vulnerabilities, applying mitigation strategies, and enhancing the resilience of AI systems.

Programme

• Sécurisation de l'IA générative
Ce module couvre la sécurisation de l'IA générative. Il commence par une introduction aux menaces liées à l'IA et à la sécurité des modèles de langage à grande échelle (LLM). Vous apprendrez à propos du top 10 de l'OS pour les applications LLM et du cadre MITRE ATLAS. Vous découvrirez la Coalition pour une IA Sécurisée et les meilleures pratiques élaborées par des organisations comme le NIST et d'autres. Vous apprendrez ce qu'est l'injection de prompt, la gestion non sécurisée des sorties, l'empoisonnement des données d'entraînement, le déni de service des modèles et la sécurité de la chaîne d'approvisionnement. Vous découvrirez également d'autres menaces, comme la divulgation d'informations sensibles, la conception de plugins non sécurisée et l'agence excessive. Vous apprendrez des concepts qui vous aideront à comprendre la dépendance excessive à l'égard de l'IA, les attaques de vol de modèles et la compréhension des tests d'intrusion des modèles d'IA. Le module couvrira également la génération augmentée par récupération (RAG) et ses différentes permutations, ainsi que les outils comme LangChain, LlamaIndex, LangGraph et d'autres bibliothèques d'orchestration utilisées avec l'IA. Vous apprendrez à sécuriser les modèles d'embeddings, les bases de données vectorielles sécurisées, et à développer des stratégies pour la surveillance et la réponse aux incidents.

Enseigné par

Pearson

Matières

Computer Science