Différenciation automatique : BackProp revisitée

Cette séance de cours couvre les idées de base de la différenciation automatique, en se concentrant sur le concept de différenciation en mode inverse pour optimiser les filtres d'une couche convolutive par descente de gradient. Le processus consiste à enregistrer l'arbre de calcul sur le chemin d'accès direct pour appliquer la règle de chaîne dans l'ordre inverse, similaire à la rétropropagation dans un simple réseau feedforward. Des exemples de différenciation automatique sont fournis, montrant la détermination des nœuds enfants des variables de poids, la planification en amont et l'utilisation d'opérations primitives.