Lo que necesitas saber antes de
que comiences

Comienza 4 July 2025 01:17

Termina 4 July 2025

00 Días
00 Horas
00 Minutos
00 Segundos
course image

Alucinaciones, Manipulaciones de Indicaciones y Mitigación de Riesgos: Poniendo Límites a sus Aplicaciones Impulsadas por Modelos de Lenguaje de Gran Escala (LLM)

Explora técnicas innovadoras para proteger tus aplicaciones impulsadas por LLM de riesgos como alucinaciones y manipulación de indicaciones. Esta sesión ofrece ideas sobre técnicas efectivas de pre-procesamiento, métodos para evaluar salidas, y demuestra cómo los marcos de código abierto pueden ser utilizados en escenarios prácticos. Ideal.
All Things Open via YouTube

All Things Open

2765 Cursos


32 minutes

Actualización opcional disponible

Not Specified

Progreso a tu propio ritmo

Free Video

Actualización opcional disponible

Resumen

Explora técnicas innovadoras para proteger tus aplicaciones impulsadas por LLM de riesgos como alucinaciones y manipulación de indicaciones. Esta sesión ofrece ideas sobre técnicas efectivas de pre-procesamiento, métodos para evaluar salidas, y demuestra cómo los marcos de código abierto pueden ser utilizados en escenarios prácticos.

Ideal para aquellos interesados en inteligencia artificial y ciencias de la computación, este evento es organizado por YouTube, haciendo que la información de vanguardia sea fácilmente accesible para los estudiantes.

Programa de estudio

  • Introducción a los Riesgos de LLM
  • Visión general de alucinaciones y manipulaciones de instrucciones
    Importancia de los elementos de seguridad en aplicaciones de LLM
  • Comprensión de las Manipulaciones de Instrucciones
  • Tipos de técnicas de manipulación de instrucciones
    Impacto en la calidad y fiabilidad del resultado
  • Técnicas de Preprocesamiento
  • Validación y saneamiento de entradas
    Conocimiento contextual y estructuración de instrucciones
  • Métodos de Evaluación de Salidas
  • Métricas de evaluación automática
    Sistemas de retroalimentación con intervención humana
  • Implementación de Elementos de Seguridad
  • Papel de las capas de seguridad y filtros
    Equilibrio entre creatividad y control
  • Marcos de Código Abierto para Elementos de Seguridad en LLM
  • Visión general de herramientas y bibliotecas disponibles
    Integración con aplicaciones del mundo real
  • Estudios de Caso y Aplicaciones del Mundo Real
  • Ejemplos de implementaciones exitosas
    Lecciones aprendidas y mejores prácticas
  • Mitigación de Riesgos en Entornos Dinámicos
  • Monitoreo continuo y actualización de elementos de seguridad
    Estrategias adaptativas para amenazas en evolución
  • Observaciones Finales
  • Resumen de estrategias y herramientas
    Direcciones futuras y tecnologías emergentes en seguridad de LLM

Asignaturas

Ciencias de la Computación