Rust for Large Language Model Operations (LLMOps)

via edX

edX

302 Cursos


course image

Resumen

Este curso avanzado lo capacita para el desarrollo de vanguardia en IA combinando el poder de Rust con las Operaciones de Modelos de Lenguaje Grande.

  • Aprenda a construir soluciones LLM escalables utilizando el rendimiento de Rust
  • Domine la integración de Rust con frameworks de LLM como HuggingFace Transformers
  • Integre Rust con frameworks de LLM como HuggingFace, Candle, ONNX

Entrénese en las últimas innovaciones en IA/ML mientras domina la programación de sistemas con Rust: su camino hacia la construcción de aplicaciones LLM de vanguardia.

  • Optimice el entrenamiento/inferencia de LLM aprovechando el paralelismo y la aceleración por GPU de Rust
  • Construya enlaces de Rust para una integración sin problemas con HuggingFace Transformers
  • Convierta y despliegue modelos BERT en aplicaciones de Rust a través de la runtime de ONNX
  • Utilice Candle para la construcción y entrenamiento de modelos ML en Rust
  • Hospede y escale soluciones LLM en la infraestructura en la nube de AWS
  • Laboratorios prácticos: construya chatbots, resumidores de texto, traducción automática
  • Aplique prácticas DevOps de LLMOps: CI/CD, monitoreo, seguridad
  • Técnicas para seguridad de memoria, multi-threading, concurrencia sin bloqueos
  • Mejores prácticas para la fiabilidad, escalabilidad y optimización de costos en LLMOps
  • Proyectos del mundo real que demuestran la experiencia en LLMOps listos para producción

Programa de estudio


Enseñado por


Etiquetas