Réseaux neuronaux d'avant-garde : fonctions d'activation et rétropropagation

Cette séance de cours couvre les bases des réseaux neuronaux de feedforward, en se concentrant sur les fonctions d'activation comme le sigmoïde, le tanh et le redresseur, ainsi que l'algorithme de rétropropagation. Il explique les limites des surfaces de séparation linéaire et introduit des méthodes puissantes pour la séparation non linéaire, telles que les méthodes du noyau et les réseaux neuronaux d'alimentation. La séance de cours aborde également les défis de la formation des réseaux neuraux, y compris le problème de l'UTR mourant et les avantages de l'utilisation de fonctions d'activation comme l'UTR. Il se termine par une explication détaillée de l'algorithme de rétropropagation pour la formation des réseaux neuronaux.