Modèles génériques basés sur les scores

Cette séance de cours explore le concept de modèles générateurs basés sur les scores, en mettant l'accent sur l'apprentissage des distributions naturelles sans score défini. Les sujets abordés incluent les algorithmes de Langevin Monte Carlo, l'astuce d'Hyvärinen pour apprendre le score, et les garanties théoriques de l'échantillonnage. La séance de cours se penche également sur l'impact de l'architecture du réseau neuronal sur la robustesse, les stratégies d'initialisation et les compromis entre la largeur et la profondeur de l'apprentissage profond.