Réseaux neuronaux : formation et optimisation

Cette séance de cours explore les subtilités des réseaux neuronaux, en se concentrant sur leur formation et leur optimisation. L'instructeur couvre des sujets tels que les passes avant et arrière, la descente de gradient stochastique et la descente de gradient stochastique mini-lot. La séance de cours aborde également les défis de la formation des réseaux neuronaux, y compris la nature non convexe de la fonction de perte et la présence de minima locaux. Des aspects pratiques tels que l'utilisation de Google Colab pour un calcul plus rapide et les implications environnementales de la formation des réseaux neuronaux sont également discutés.