Alucinaciones, manipulaciones de indicaciones y mitigación de riesgos: poniendo barreras de protección a sus aplicaciones impulsadas por LLM.

Resumen

Join us to explore effective strategies for mitigating risks associated with large language models (LLMs). Delve into the implementation of guardrails that encompass pre-processing techniques designed to prevent prompt manipulation, alongside powerful output evaluation methods.

This course unveils open-source frameworks applied in real-world applications, equipping you with the tools needed to navigate and control LLMs' potential challenges. Perfect for anyone interested in advancing their understanding of artificial intelligence and computer science.

Programa

• Introducción a los Modelos de Lenguaje Extensos (LLMs)
Descripción general de las capacidades y aplicaciones de los LLM
Riesgos comunes y desafíos asociados con los LLM
• Comprendiendo las Alucinaciones en los LLM
Definición y ejemplos de alucinaciones
Circunstancias que conducen a las alucinaciones del modelo
• Manipulación de Prompts y Sus Implicaciones
Cómo los inputs de prompts afectan los outputs de los LLM
Tácticas utilizadas para la manipulación de prompts
• Mitigación de Riesgos en Aplicaciones Impulsadas por LLM
Importancia de implementar medidas de protección
Estrategias clave para la mitigación de riesgos
• Técnicas de Pre-procesamiento
Saneamiento y validación de inputs
Técnicas para prevenir y detectar la manipulación de prompts
• Evaluación y Validación de Outputs
Métodos para evaluar los outputs de los LLM
Estrategias para asegurar la fiabilidad y relevancia de los outputs
• Diseño e Implementación de Medidas de Protección
Medidas de protección algorítmicas para garantizar seguridad y cumplimiento
Políticas de uso y supervisión humana
• Marcos de Código Abierto para la Mitigación de Riesgos
Descripción general de herramientas y marcos disponibles
Demostración de la integración de marcos en aplicaciones
• Estudios de Caso y Aplicaciones del Mundo Real
Ejemplos exitosos de medidas de protección en acción
Lecciones aprendidas de implementaciones en el mundo real
• Tendencias y Desarrollos Futuros
Enfoques innovadores en la gestión de riesgos de LLM
Tecnologías emergentes y su potencial impacto en la seguridad de los LLM
• Conclusión
Resumen de estrategias clave para proteger aplicaciones LLM
Recomendaciones para la evaluación y gestión de riesgos continuos
• Revisión del Curso y Sesión de Preguntas y Respuestas

---

Materias

Computer Science