La généralisation dans l'apprentissage profond

Cette séance de cours s'inscrit dans le concept de généralisation de l'apprentissage profond, explorant le compromis entre la complexité du modèle et le risque attendu. Les sujets abordés comprennent le compromis classique, les limites de généralisation, la régularisation implicite et le phénomène de double descente. L'instructeur discute des défis dans la compréhension de la généralisation de l'apprentissage profond, les mathématiques derrière la complexité du modèle, et le biais implicite des algorithmes d'optimisation. Différents exemples et expériences sont présentés pour illustrer la courbe de double descente, les dangers des classes de fonctions complexes et le comportement des algorithmes d'optimisation. La séance de cours se termine par des réflexions sur le surajustement bénin et la probabilité d'interpolation dans les ensembles de données à haute dimension.