Régularisation : Promouvoir des solutions optimales

Cette séance de cours couvre le concept de régularisation dans le contexte des problèmes les moins carrés. La régularisation est introduite comme un outil pour relever des défis tels que la non-unicité des solutions, le mauvais conditionnement et le surajustement. La séance de cours explique comment la régularisation favorise des solutions avec des normes plus petites, soulage les mauvais conditionnements en stabilisant la solution, et contrebalance le surajustement en limitant l'espace de la solution. L'utilisation de la régularisation l2, aussi connue sous le nom de régression des crêtes, est détaillée, ainsi que son impact sur la norme de la solution. La séance de cours examine également le rôle de la régularisation dans la cohérence avec les modèles antérieurs et le compromis entre le biais et la variance du risque régularisé.