Séance de cours
Optimiser les fonctions de perte: Gradient Descent Variants
Description
Cette séance de cours couvre le concept d'arrêt précoce en descente de gradient, en soulignant l'importance de minimiser l'erreur de test sur l'optimisation de la fonction de perte. L'instructeur explique l'utilisation des sous-gradients pour des fonctions non-différenciables et introduit la descente stochastique de gradient comme une alternative plus rapide. Des variantes telles que l’optimisation basée sur l’élan et les taux d’apprentissage adaptatif sont discutées, soulignant les compromis entre la vitesse et la convergence vers les minima mondiaux.
Source officielle
À propos de ce résultat
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.