Asegurando la IA Generativa

Resumen

This course offers a comprehensive exploration into the crucial security measures necessary for the deployment and development of various AI implementations, including large language models (LLMs) and Retrieval-Augmented Generation (RAG). It addresses critical considerations and mitigations to reduce the overall risk in organizational AI system development processes.

Experienced author and trainer Omar Santos emphasizes “secure by design” principles, focusing on security outcomes, radical transparency, and building organizational structures that prioritize security. You will be introduced to AI threats, LLM security, prompt injection, insecure output handling, and Red Team AI models.

The course concludes by teaching you how to protect RAG implementations. You learn about orchestration libraries such as LangChain, LlamaIndex, and others, as well as securing vector databases, selecting embedding models, and more.

Programa

• Asegurando la IA Generativa
Este módulo ofrece una visión general exhaustiva de la seguridad de la IA generativa, cubriendo amenazas y estrategias de mitigación para modelos de lenguaje grande y sistemas relacionados. Los temas incluyen inyección de prompts, manejo inseguro de la salida, envenenamiento de datos de entrenamiento, denegación de servicio de modelos, vulnerabilidades de la cadena de suministro, divulgación de información sensible, diseño inseguro de plugins, agencia excesiva, dependencia excesiva, robo de modelos, equipos rojos y aseguramiento de implementaciones de Generación Aumentada por Recuperación (RAG). Los estudiantes adquieren conocimiento práctico de marcos de la industria, mejores prácticas y herramientas para proteger tecnologías de IA en entornos de producción.

Impartido por

Pearson

Materias

Computer Science