Learn about backpropagation and gradient descent by coding your own simple neural network from scratch in Python - no libraries, just fundamentals. Ideal for aspiring Machine Learning Engineers, Data Scientists, and AI Specialists.Coding neural networks from scratch using only PythonWhat backpropagation is and how it helps machines learnHow to break down complicated math into simple, doable stepsThe easiest way to understand gradients and why they matterWhat’s really happening when a machine makes predictionsHow to train a smarter model by adjusting tiny details in code
- Introduction
Introduction
Exercice : Rencontrez vos camarades de classe et votre instructeur
Ressources du cours
- Réseaux neuronaux, dérivées, gradients, règle de chaîne et descente de gradient
Introduction à notre simple réseau neuronal
Pourquoi utilisons-nous des graphes computationnels
Conduire la passe avant
Feuille de route pour comprendre la rétropropagation
Théorie des dérivées
Exemple numérique de dérivées
Dérivées partielles
Gradients
Comprendre ce que les dérivées partielles font
Introduction à la rétropropagation
(Optionnel) Règle de chaîne
Dérivation par gradient de la fonction de perte du moindre carré
Visualisation de la fonction de perte et compréhension des gradients
Utiliser la règle de chaîne pour voir comment w2 affecte la perte finale
Rétropropagation de w1
Introduction visuelle à la descente de gradient
Descente de gradient
Comprendre le taux d'apprentissage (Alpha)
Se déplacer dans la direction opposée du gradient
Calculer la descente de gradient à la main
Codage de notre simple réseau neuronal Partie 1
Codage de notre simple réseau neuronal Partie 2
Codage de notre simple réseau neuronal Partie 3
Codage de notre simple réseau neuronal Partie 4
Codage de notre simple réseau neuronal Partie 5
- Implémentation de notre réseau neuronal avancé à la main + Python
Introduction à notre réseau neuronal complexe
Conduire la passe avant
Commencer avec la rétropropagation
Obtenir la dérivée de la fonction d'activation sigmoïde (Optionnel)
Implémenter la rétropropagation avec la règle de chaîne
Comprendre comment w3 affecte la perte finale
Calculer les gradients pour Z1
Comprendre comment w1 et w2 affectent la perte
Implémenter la descente de gradient à la main
Codage de notre réseau neuronal avancé Partie (Implémentation de la passe avant + perte)
Codage de notre réseau neuronal avancé Partie 2 (Implémenter la rétropropagation)
Codage de notre réseau neuronal avancé Partie 3 (Implémenter la descente de gradient)
Codage de notre réseau neuronal avancé Partie 4 (Entraînement de notre réseau neuronal)
- Où aller à partir d'ici ?
Passez en revue ce Byte !
