Êtes-vous un étudiant de l'EPFL à la recherche d'un projet de semestre?
Travaillez avec nous sur des projets en science des données et en visualisation, et déployez votre projet sous forme d'application sur Graph Search.
Cette séance de cours porte sur les concepts de la descente progressive stochastique (SGD) et de l'analyse de champ moyen dans le contexte des réseaux neuraux à deux couches. L'instructeur explique le processus itératif de SGD et son application dans l'analyse des réseaux neuronaux. La séance de cours s'inscrit dans les fondements mathématiques de l'analyse de champ moyen et de sa signification dans la compréhension du comportement des réseaux neuronaux. Différents théorèmes liés à la convergence de SGD et au pouvoir de représentation des réseaux neuronaux à deux couches sont discutés. La présentation se termine par une explication détaillée du calcul stochastique du gradient et de son rôle dans l'optimisation des modèles de réseau neuronal.