Êtes-vous un étudiant de l'EPFL à la recherche d'un projet de semestre?
Travaillez avec nous sur des projets en science des données et en visualisation, et déployez votre projet sous forme d'application sur Graph Search.
Cette séance de cours couvre la préformation des transformateurs, en se concentrant sur BERT. Il explique le processus de préformation des codeurs et des décodeurs, l'architecture du modèle BERT et sa formation sur les grands ensembles de données. Il traite également des applications de BERT dans diverses tâches de traitement du langage naturel, telles que la réponse aux questions, l'analyse des sentiments et la détection de paraphrases.
Cette vidéo est disponible exclusivement sur Mediaspace pour un public restreint. Veuillez vous connecter à Mediaspace pour y accéder si vous disposez des autorisations nécessaires.
Regarder sur Mediaspace