Séance de cours
Modèles génériques : auto-attention et transformateurs
Description
Cette séance de cours couvre des modèles génératifs axés sur l'auto-attention et les transformateurs. Les sujets abordés incluent les auto-encodeurs, les machines Boltzmann, l'entraînement masqué, les mécanismes d'attention et le principe d'entropie maximale. Les diapositives discutent en détail des méthodes d'échantillonnage, des moyens empiriques et des corrélations.
Source officielle
À propos de ce résultat
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.