Séance de cours

Décodage des modèles de séquence: Insights and Beam Search

Description

Cette séance de cours couvre deux nouvelles idées sur la recherche de faisceaux, mettant l'accent sur le décodage des modèles de séquence dans le traitement du langage naturel. Il explore les défis du décodage des générateurs de langage neuronal et le concept de recherche de faisceau comme optimisation itérative sous-ensemble. L'instructeur discute de l'importance d'envisager des espaces de sortie spécifiques aux tâches et de la complexité exponentielle du décodage exact. De plus, la séance de cours s'inscrit dans l'algorithme de recherche du meilleur premier faisceau, qui priorise les hypothèses basées sur les scores du modèle. La présentation se termine par une discussion sur la motivation cognitive derrière la recherche de faisceaux et le concept de régularisation uniforme de la densité d'information dans le texte généré.

À propos de ce résultat
Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.