Dynamique des réseaux neuronaux linéaires

Cette séance de cours de l'instructeur du 24 juin 2021 se penche sur la dynamique d'apprentissage des réseaux neuronaux profonds en utilisant des réseaux linéaires (LN) pour l'analyse. Il couvre la formulation des NL, la dynamique des réseaux à deux couches et à plusieurs couches, l'apprentissage autosupervisé, le calcul des pertes et les avantages de l'initialisation découplée. La séance de cours explore la dynamique des réseaux linéaires et de leurs applications, fournissant des informations sur la dynamique d'apprentissage sans paires contrastantes.