EINNET - Optimisation des programmes Tensor avec des transformations basées sur la dérivation

Aperçu

Optimisation des programmes tensoriels pour les réseaux neuronaux profonds en utilisant des transformations basées sur la dérivation, surpassant les optimiseurs existants en exploitant un espace de recherche plus vaste et en créant automatiquement de nouveaux opérateurs.

Programme

• Introduction aux programmes tensoriels
Aperçu des opérations et structures tensoriels
Importance dans les réseaux neuronaux profonds
• Bases de l'optimisation de programme
Techniques d'optimisation traditionnelles
Limitations des optimiseurs actuels
• Transformations basées sur la dérivation
Concept et théorie
Exemples de dérivations dans les programmes tensoriels
• Exploration de l'espace de recherche
Avantages d'un espace de recherche plus vaste
Techniques pour une exploration efficace
• Création automatique d'opérateurs
Comprendre la génération d'opérateurs nouveaux
Implémentation de la création automatique dans les programmes tensoriels
• Exemples pratiques et études de cas
Transformations dans les réseaux neuronaux réels
Analyse comparative avec les optimiseurs existants
• Outils et frameworks
Aperçu des outils pour l'optimisation
Pratique avec les logiciels d'optimisation
• Défis et solutions en optimisation
Obstacles courants
Approches innovantes pour résoudre les problèmes
• Futurs développements dans l'optimisation des programmes tensoriels
Tendances et technologies émergentes
Opportunités de recherche
• Projet et évaluation
Conception d'un programme tensoriel avec transformations basées sur la dérivation
Évaluation des performances et des métriques
• Conclusion et récapitulatif du cours
Résumé des concepts clés
Prochaines étapes pour les apprenants dans les technologies d'optimisation tensorielle

Sujets

Conférences