L'Architecture MLP : Activations & Initialisation en R

Aperçu

This course builds upon single layers to construct a complete Multi-Layer Perceptron (MLP). You'll learn to stack layers, explore different activation functions like ReLU and Softmax, and understand the importance of weight initialization for effective training.

Programme

• Unité 1 : L'architecture MLP : Activations et Initialisation
Implémentation de la propagation en avant dans un perceptron multicouche
Correction des dimensions de couche dans un perceptron multicouche
Construction d'une fonction de perceptron multicouche en R
Extension d'un MLP avec une couche supplémentaire
Construction d'un perceptron multicouche à partir de zéro en R
• Unité 2 : Fonction d'activation ReLU et conception de couche flexible dans les MLP en R
Correction de la fonction d'activation ReLU pour les entrées matricielles
Implémentation de l'activation ReLU dans votre réseau neuronal
Implémentation de la fonction d'activation ReLU en R
• Unité 3 : Fonctions d'activation de couche de sortie : Softmax et Linéaire dans les MLP en R
Implémentation du Softmax numériquement stable en R
Vérification des sorties Softmax comme distributions de probabilité valides
Implémentation de la fonction d'activation linéaire pour les tâches de régression
Débogage des fonctions d'activation de sortie dans les réseaux neuronaux
Construction de réseaux neuronaux avec des activations de sortie de classification et de régression
• Unité 4 : Stratégies d'initialisation des poids pour les réseaux neuronaux en R
Implémentation de l'initialisation de poids aléatoire à l'échelle pour les réseaux neuronaux
Correction de l'initialisation de poids uniforme de He pour les réseaux neuronaux
Implémentation de l'initialisation de poids normale de Xavier pour les réseaux neuronaux
Implémentation de l'initialisation de poids uniforme de He dans les réseaux neuronaux

---

Matières

Artificial Intelligence