Séance de cours
Décodage à partir de modèles neuraux
Description
Cette séance de cours couvre le concept de décodage à partir de modèles neuronaux dans le NLP moderne, en mettant l'accent sur les modèles encodeurs-décodeurs et l'algorithme de décodage. Il explique l'idée principale de décodage, les problèmes avec le décodage argmax, et introduit la recherche de faisceau comme une alternative. L'instructeur discute également de l'effet de la taille du faisceau et de ce à quoi s'attendre dans les prochaines séance de courss.
Enseignant
deserunt officia occaecat
Deserunt magna sunt laboris do dolor nisi do do. Et id aliqua ex enim consectetur occaecat. Fugiat aute pariatur Lorem Lorem ullamco magna. Quis sint Lorem sunt aliqua est aliqua aliquip ut minim. Non do sit minim in pariatur est duis elit eu sint.
Source officielle
À propos de ce résultat
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.
Séances de cours associées (34)
Modèles Vision-Langue-Action : Formation et applications
Se penche sur la formation et les applications des modèles Vision-Language-Action, en mettant l'accent sur le rôle des grands modèles linguistiques dans le contrôle robotique et le transfert des connaissances web. Les résultats des expériences et les orientations futures de la recherche sont mis en évidence.
Préformation: Transformateurs et modèles
Explore les modèles de préformation comme BERT, T5 et GPT, en discutant de leurs objectifs de formation et de leurs applications dans le traitement des langues naturelles.
Modèles de langage: De la théorie à l'informatique
Explore les mathématiques des modèles de langues, couvrant la conception de l'architecture, la pré-formation et l'ajustement fin, soulignant l'importance de la pré-formation et de l'ajustement fin pour diverses tâches.
Deep Learning pour répondre aux questions
Explore l'apprentissage profond pour répondre aux questions, analyser les réseaux neuronaux et modéliser la robustesse au bruit.
Génération de langues naturelles
Explore la génération du langage naturel, couvrant les modèles neuraux, les biais, l'éthique et les défis d'évaluation.