Réseaux de neurones artificiels et apprentissage profond: paysage de perte et méthodes d'optimisation

Cette séance de cours couvre le paysage de la fonction d'erreur, les minima, les points de selle, l'optimiseur ADAM et le théorème No Free Lunch dans le contexte des réseaux de neurones artificiels. Il discute également des différences entre les réseaux peu profonds et profonds, de la tâche des neurones cachés et des méthodes d'optimisation de la descente de gradient.