Optimisation stochastique : Algorithmes et méthodes

Cette séance de cours couvre l'optimisation stochastique et les méthodes de gradient adaptatif, l'examen d'algorithmes comme la descente de gradient, la descente coordonnée, le subgradient, le gradient proximale, le gradient de projection et la descente en miroir. Il explore la solution des problèmes d'optimisation convexe avec et sans contraintes, pour les risques lisses et non lisses. La séance de cours vise à exploiter la structure de la fonction de risque et les défis posés par les grands ensembles de données et les statistiques inconnues. Différents algorithmes stochastiques sont discutés, y compris le gradient stochastique, le subgradient et les méthodes de gradient proximaux, mettant en évidence leurs propriétés de convergence et l'impact des tailles d'étapes sur la convergence.