Hacker Ético Certificado (CEH): Unidad 8

Resumen

This course is designed to equip you with the knowledge to protect large language models (LLMs) and AI systems from emerging threats. You will explore critical security challenges such as prompt injection, training data poisoning, and model theft.

You will gain insights into frameworks like MITRE ATLAS and NIST, and learn to implement best practices for securing AI ecosystems. By the end of this course, you will be proficient in identifying vulnerabilities, applying mitigation strategies, and enhancing the resilience of AI systems.

Programa

• Asegurando la IA Generativa
Este módulo cubre la seguridad de la IA generativa. Comienza con una introducción a las amenazas de la IA y la seguridad de los grandes modelos de lenguaje (LLM). Aprenderás sobre los 10 principales riesgos de OS para aplicaciones LLM y el marco MITRE ATLAS. Aprenderás sobre la Coalición para una IA Segura y las mejores prácticas que están siendo desarrolladas por organizaciones como NIST y otros. Aprenderás sobre la inyección de prompts, el manejo inseguro de salidas, el envenenamiento de datos de entrenamiento, la denegación de servicio del modelo y la seguridad de la cadena de suministro. También aprenderás sobre otras amenazas, como la divulgación de información sensible, el diseño inseguro de complementos y la agencia excesiva. Aprenderás conceptos que te ayudarán a entender la sobredependencia en la IA, los ataques de robo de modelos y la comprensión de los equipos rojos en modelos de IA. El módulo también cubrirá la generación aumentada por recuperación (RAG) y sus diferentes permutaciones, así como explorar herramientas como LangChain, LlamaIndex, LangGraph y otras bibliotecas de orquestación utilizadas con IA. Aprenderás a asegurar modelos de incrustación, asegurar bases de datos vectoriales y desarrollar estrategias para el monitoreo y la respuesta a incidentes.

Impartido por

Pearson

Materias

Computer Science