Rôle du calcul dans l'optimisation

Cette séance de cours couvre le rôle du calcul dans l'optimisation, en se concentrant sur la descente de gradient pour les problèmes convexes et non convexes. En commençant par les mathématiques des données, l'instructeur explique l'estimateur de probabilité maximale et les estimateurs M. La séance de cours se penche ensuite sur la minimisation sans contrainte, l'optimalité approximative par rapport à l'exactitude et les stratégies itératives de base pour les algorithmes d'optimisation. Les méthodes de descente, y compris l'algorithme de descente de gradient, sont discutées en détail, ainsi que les défis rencontrés dans les algorithmes d'optimisation itératifs. Les concepts de stationnarité, de minima locaux et d’optimalité globale sont explorés, soulignant l’importance de la convexité dans les algorithmes d’optimisation.