Desplegando GenAI: Superando Desafíos en Rendimiento, Seguridad y Eficiencia

Resumen

Descubre enfoques sistemáticos para implementar modelos de IA generativa en dispositivos con limitaciones de recursos, equilibrando el rendimiento con las limitaciones de hardware mediante técnicas de compresión y estrategias de optimización para aplicaciones del mundo real.

Programa de estudio

• Introducción al Despliegue de AI Generativa
Visión General de Aplicaciones de AI Generativa
Desafíos en el Despliegue de Modelos GenAI en Dispositivos de Borde
Objetivos del Curso y Resultados de Aprendizaje
• Fundamentos de la Compresión de Modelos
Visión General de Técnicas de Compresión de Modelos
Poda y Cuantificación
Destilación de Conocimiento
Impacto de la Compresión en el Rendimiento del Modelo
• Estrategias de Optimización para GenAI
Optimización de Modelos Sensible al Hardware
Diseño de Arquitectura de Modelo Eficiente
Exploración de Compromisos entre Precisión y Eficiencia
• Despliegue en Dispositivos con Recursos Limitados
Comprensión de las Limitaciones del Dispositivo
Técnicas para Despliegue en el Borde
Casos de Uso y Aplicaciones Industriales
• Asegurando el Rendimiento en Escenarios del Mundo Real
Monitoreo y Medición del Rendimiento del Modelo
Herramientas y Técnicas para Afinar el Rendimiento
Estudios de Caso de Despliegues Exitosos
• Abordando la Seguridad en Modelos GenAI
Riesgos de Seguridad Comunes en Aplicaciones GenAI
Estrategias para Mitigar Amenazas de Seguridad
Asegurando la Privacidad y Protección de Datos
• Tendencias Futuras en el Despliegue de GenAI
Tecnologías y Enfoques Emergentes
Anticiparse y Adaptarse a Desafíos Futuros
• Conclusión y Cierre
Resumen de Conceptos y Estrategias Clave
Recursos para Aprendizaje Continuo
Proyecto Final y Evaluación
• Proyecto Final
Diseñar e Implementar una Estrategia de Despliegue para un Modelo GenAI Seleccionado
Abordar Desafíos de Rendimiento, Seguridad y Eficiencia
• Recursos Adicionales
Lecturas y Herramientas Recomendadas
Comunidades y Foros en Línea para Practicantes de GenAI

Asignaturas

Ciencias de la Computación