Optimisation pour l'apprentissage automatique : Algorithme Frank-Wolfe

Cette séance de cours couvre l'algorithme Frank-Wolfe, une méthode d'optimisation sans projection réduisant l'optimisation non linéaire à linéaire. Il a été inventé en 1956 par Marguerite Frank et Philip Wolfe. L'algorithme est clairsemé et toujours réalisable, ce qui le rend adapté à diverses applications. La séance de cours explique les propriétés de l'algorithme, procéde à des variantes, des exemples comme la régression de Lasso, et sa convergence dans les étapes O(1/-). Il traite également de l'écart de dualité et de l'invariance affine. La preuve de convergence dans les étapes O(1/-) est détaillée, en mettant l'accent sur l'évolutivité et l'efficacité de l'algorithme.