Piratería ética contra y con IA/LLM/ML (¡Versión ligera!)

Resumen

Conviértete en un profesional en Pruebas de Penetración de IA y LLM y Descubrimiento de Vulnerabilidades (¡Versión Lite!) Lo que aprenderás:

vulnerabilidades de AI/LLM, alcanzar un nivel profesional en pruebas de penetración de IA/LLM, alcanzar un nivel profesional en recompensas por errores de IA/LLM, fundamentos de AI/LLM, ataques de AI/LLM, marcos de AI/LLM, inyección de mensajes de AI/LLM, manejo inseguro de salidas de AI/LLM, envenenamiento de datos de entrenamiento de AI/LLM, denegación de servicio de AI/LLM, cadena de suministro de AI/LLM, problemas de permisos de AI/LLM, fuga de datos de AI/LLM, agencia excesiva de AI/LLM, sobreconfianza de AI/LLM, complementos inseguros de AI/LLM, modelo de amenazas de AI/LLM, uso de IA para pruebas de penetración/hacking ético, la herramienta Yolo AI, hacking ético contra y con AI/LLM/ML, curso de capacitación (¡Versión Lite!). Bienvenido a este curso de Hacking Ético y Pruebas de Penetración en Inteligencia Artificial (IA) y Modelos de Lenguaje Grandes (LLM).

Nota importante:

este curso NO enseña el uso real del Burp Suite y sus características. Tu instructor es Martin Voelk.

Él es un veterano en Ciberseguridad con 25 años de experiencia. Martin posee algunas de las certificaciones más altas, incluidas CISSP, OSCP, OSWP, Portswigger BSCP, CCIE, PCI ISA y PCIP.

Trabaja como consultor para una gran empresa tecnológica y participa en programas de Bug Bounty donde ha encontrado miles de vulnerabilidades críticas y altas. Este curso tiene secciones teóricas y prácticas con un enfoque en encontrar y explotar vulnerabilidades en sistemas y aplicaciones AI y LLM.

La capacitación está alineada con las clases de vulnerabilidades OWASP Top 10 LLM. Martin resuelve todos los laboratorios de LLM de Portswigger además de muchos otros laboratorios y demostraciones.

Los videos son fáciles de seguir y replicar. También hay una sección dedicada a cómo usar la IA para Pruebas de Penetración/Caza de Recompensas por Errores y Hacking Ético.

El curso presenta lo siguiente:

· Introducción a AI/LLM · Ataques AI/LLM · Marcos/escritos AI/LLM · AI LLM01:

Inyección de Mensajes · AI LLM02:

Manejo Inseguro de Salidas · AI LLM03:

Envenenamiento de Datos de Entrenamiento · AI LLM04:

Denegación de Servicio · AI LLM05:

Cadena de Suministro · AI LLM06:

Problemas de Permisos · AI LLM07:

Fuga de Datos · AI LLM08:

Agencia Excesiva · AI LLM09:

Sobreconfianza · AI LLM10:

Complementos Inseguros · Modelo de Amenazas · Combinándolo Todo · Uso de la IA para Pruebas de Penetración/Hacking Ético · La Herramienta Yolo AI · Walkthrough del reto CTF de Prompt Airlines · Juego de Ataque y Defensa de Prompts de AI Tensortrust · Herramientas Notas y Descargo de Responsabilidad:

Los laboratorios de Portswigger son un servicio público y gratuito de Portswigger para que cualquier persona los use para mejorar sus habilidades. Todo lo que necesitas es registrarte para obtener una cuenta gratuita.

Iré actualizando este curso con nuevos laboratorios a medida que se publiquen. Responderé a las preguntas en un plazo razonable.

Aprender Pruebas de Penetración/Caza de Recompensas por Errores es un proceso largo, así que no te sientas frustrado si no encuentras un error de inmediato. Intenta usar Google, leer informes de Hacker One e investigar cada característica en profundidad.

Este curso es solo para fines educativos. Esta información no debe ser utilizada para explotación maliciosa y solo debe usarse en objetivos para los que tengas permiso de atacar.

Programa de estudio

• Introducción al Hacking Ético y AI/ML
Visión general de los Principios del Hacking Ético
Introducción a la IA, ML y LLMs (Modelos de Lenguaje Extensos)
El papel de la IA en la ciberseguridad
• Fundamentos del Aprendizaje Automático para Aplicaciones de Seguridad
Comprensión de los Modelos de Aprendizaje Automático
Algoritmos y Técnicas Comunes
Visión general de los LLMs
• Hacking Ético con Herramientas de AI/ML
Herramientas y Marcos para AI/ML
Estudios de Caso: Pruebas de Penetración Asistidas por IA Exitosas
Automatización de Escaneos de Vulnerabilidades con IA
• Amenazas de Seguridad y Vulnerabilidades en Sistemas de AI/ML
Vulnerabilidades Comunes en Sistemas de IA
Ataques Adversariales a Modelos de ML
Protección Contra Envenenamiento de Datos y Ataques de Evasión
• Consideraciones Éticas en el Hacking de AI/ML
Directrices Legales y Éticas para Hackers Éticos
Preocupaciones de Privacidad con IA y LLMs
Prácticas de Divulgación Responsable
• Laboratorios Prácticos (Sesiones Prácticas)
Configuración de un Entorno de Pruebas Seguro
Simulación de Escenarios de Ataque Relacionados con IA
Medidas Defensivas: Protección de Sistemas de IA
• Estudios de Caso y Ejemplos del Mundo Real
Análisis de Brechas de Seguridad en AI/ML de Alto Perfil
Lecciones Aprendidas de Incidentes de Ciberseguridad Involucrando IA
• Tendencias Futuras en IA y Ciberseguridad
Amenazas Emergentes y Desafíos en la Seguridad de IA
Evolución de la IA en Defensa Cibernética
Preparándose para el Impacto de la IA en las Prácticas de Ciberseguridad
• Conclusión del Curso y Certificación
Revisión y Recapitulación de Conceptos Clave
Evaluación Final y Retroalimentación
Certificación y Próximos Pasos en Hacking Ético con IA

---

Enseñado por

Martin Voelk

---

Asignaturas

Seguridad de la Información (InfoSec)