Aperçu
Ce cours avancé vous forme à l'avant-garde du développement de l'IA en combinant la puissance de Rust avec les opérations de grands modèles linguistiques.
- Apprenez à construire des solutions LLM évolutives en utilisant la performance de Rust
- Maîtrisez l'intégration de Rust avec des frameworks LLM comme HuggingFace Transformers
- Intégrez Rust avec des frameworks LLM tels que HuggingFace, Candle, ONNX
Formez-vous aux dernières innovations en IA/ML tout en maîtrisant la programmation système avec Rust - votre voie vers la construction d'applications LLM à la pointe de la technologie.
- Optimisez l'entraînement/la déduction de LLM en tirant parti du parallélisme et de l'accélération GPU de Rust
- Construisez des liaisons Rust pour une intégration transparente avec HuggingFace Transformers
- Convertissez et déployez des modèles BERT dans des applications Rust via le runtime ONNX
- Utilisez Candle pour la construction et l'entraînement simplifiés de modèles ML en Rust
- Hébergez et évoluez des solutions LLM sur l'infrastructure cloud d'AWS
- Laboratoires pratiques : construisez des chatbots, des résumeurs de texte, des traductions automatiques
- Appliquez les pratiques DevOps LLMOps - CI/CD, surveillance, sécurité
- Techniques pour la sécurité de la mémoire, le multithreading, la concurrence sans verrou
- Meilleures pratiques pour la fiabilité, l'évolutivité et l'optimisation des coûts de LLMOps
- Projets réels démontrant une expertise LLMOps prête pour la production
Programme
Enseigné par
Étiquettes
