Deep Learning : représentation de données et perception multicouche

Cette séance de cours couvre la représentation des données à travers la vectorisation, le sac de mots et les histogrammes, ainsi que les concepts de données manquantes, de données bruyantes et de normalisation des données. Il introduit le modèle de perceptron multicouche (MLP), expliquant son algorithme d'entraînement et les fonctions d'activation utilisées dans les couches cachées et de sortie. La séance de cours traite également des défis de l'apprentissage basé sur le gradient, de la rétropropagation et du processus d'entraînement d'un MLP en utilisant des techniques telles que la descente de gradient, la descente de gradient stochastique et la descente de gradient en mini-lot. Il aborde les questions de la disparition du gradient, de l'initialisation du poids et de la régularisation dans les réseaux neuronaux profonds.