Bases d'optimisation : Optimisation sans contrainte et descente progressive

Cette séance de cours introduit le concept d'optimisation, mettant l'accent sur son omniprésence dans différents domaines. Il couvre l'optimisation sans contrainte, en distinguant entre les minima mondiaux et locaux. L'instructeur explique la vue d'ensemble de l'algorithme et le rôle des gradients dans la recherche de la solution optimale. La séance de cours s'inscrit dans la méthode de descente par gradient, détaillant comment elle approche itérativement le minimum d'une fonction objective. Il examine le gradient comme la meilleure approximation linéaire et sa signification dans la détermination de la direction la plus raide de l'ascension. La présentation se termine par des stratégies pour déterminer la longueur de l'étape dans les problèmes d'optimisation, mettant en évidence l'algorithme de base de descente du gradient.