Ética y Seguridad en la IA Abierta

Resumen

The Ethics and Safety in Open AI course equips learners with the frameworks and tools needed to ensure responsible use of generative AI models. The course begins with bias detection and mitigation, where learners identify harmful patterns in datasets and outputs, apply quantitative evaluation techniques, and implement mitigation strategies.

Next, learners design and test safety guardrails, including input validation, output filtering, content moderation, and red-teaming practices to strengthen AI systems against misuse. The final module covers content provenance, licensing, and compliance, where learners apply watermarking techniques, implement provenance standards such as C2PA, and evaluate datasets and models for licensing adherence.

Regulatory frameworks like GDPR and CCPA are also introduced. Through hands-on exercises, learners will build safety layers, implement provenance metadata, and prepare compliance-ready audit documentation.

By the end, learners will be able to design open AI applications that prioritize safety, fairness, and accountability.

Programa

• **Módulo 1: Detección y Mitigación de Sesgos**
Introducción al sesgo en IA
Identificación de patrones dañinos en conjuntos de datos y resultados
Técnicas de evaluación cuantitativa para la detección de sesgos
Estrategias de mitigación para la reducción de sesgos
• **Módulo 2: Diseño y Pruebas de Barreras de Seguridad**
Técnicas de validación de entradas
Métodos de filtrado de salidas
Estrategias de moderación de contenido
Introducción a las prácticas de red-teaming
Fortalecimiento de sistemas IA contra el mal uso
• **Módulo 3: Procedencia del Contenido, Licencias y Cumplimiento**
Técnicas de marcas de agua para la procedencia del contenido
Implementación de estándares de procedencia (e.g., C2PA)
Evaluación de conjuntos de datos y modelos para el cumplimiento de licencias
Introducción a los marcos regulatorios (e.g., GDPR, CCPA)
Preparación de documentación de auditoría lista para el cumplimiento
• **Ejercicios Prácticos**
Construcción de capas de seguridad en sistemas IA
Implementación y gestión de metadatos de procedencia
Preparación y realización de auditorías de cumplimiento
• **Cierre del Curso**
Revisión de conceptos clave en seguridad y ética de IA
Mejores prácticas para diseñar aplicaciones de IA abiertas responsables
Aseguramiento de equidad, rendición de cuentas y seguridad en el desarrollo de IA

---

Impartido por

Professionals from the Industry

---

Materias

Artificial Intelligence