Séances de cours associées à Descente de gradient stochastique: techniques d'optimisation non convexes

Gradient Descent: Techniques d'optimisation

Explore la descente en gradient, les fonctions de perte et les techniques d'optimisation dans la formation en réseau neuronal.

Optimisation du taux de convergence : accélération de la descente en gradient

Explore l'optimalité du taux de convergence dans les techniques de descente de gradient et d'accélération pour les problèmes convexes et non convexes.

Les bases de l'optimisation

Introduit des bases d'optimisation, couvrant la régression logistique, les dérivés, les fonctions convexes, la descente de gradient et les méthodes de second ordre.