Interpretar y Proteger Modelos de IA Segura

Resumen

Ever wonder if your smart AI is actually secure? In this course, we'll ditch the dry theory to show you how to build genuinely resilient AI systems from the ground up, making security a core part of your design, not just an afterthought.

You'll begin by stepping into the role of an AI Security Architect, running a “pre-mortem” to think like an attacker and neutralize threats before they even happen. Through focused videos and exercises, you’ll master essential defenses like blocking bad data with input sanitization, ‘vaccinating’ your model against attacks with adversarial training, and protecting user data with differential privacy.

This all culminates in a hands-on lab where you'll personally fix a vulnerable model and prove its new resilience. The main goal is to shift your mindset from reactive patching to proactive design, so you’ll walk away with the real-world skills to analyze defense strategies, successfully harden a model in a lab, and design a comprehensive security plan for any new AI project.

Programa

• El Libro de Jugadas del Atacante: Comprendiendo las Vulnerabilidades de la IA
Este módulo introduce el concepto fundamental de que los modelos de IA son superficies de ataque. Aprenderás a pensar como un adversario, explorando las principales categorías de ataques: evasión, envenenamiento de datos y extracción de modelos, y verás cómo explotan las debilidades de los modelos con ejemplos del mundo real.
• Construyendo el Escudo: Estrategias de Defensa Proactiva
Pasando de la ofensiva a la defensa, este módulo se centra en construir seguridad directamente en tus sistemas de IA. Aprenderás a implementar y configurar mecanismos de defensa sólidos y proactivos como el entrenamiento adversarial, la sanitización de entrada y la privacidad diferencial para crear modelos que sean resilientes por diseño.
• Pruebas Adversariales y el Ciclo Continuo
Una defensa solo es efectiva si se prueba. En este módulo final, dominarás el arte del "Red Teaming" en IA diseñando y ejecutando ataques simulados para validar tus medidas de seguridad. Aprenderás a evaluar la resiliencia del modelo y a adoptar el ciclo de seguridad continuo requerido para mantenerte por delante de las amenazas emergentes.

---

Impartido por

Starweaver and Rifat Erdem Sahin

---

Materias

Computer Science