Traduction automatique: séquence à séquence et attention

Cette séance de cours couvre l'évolution de la traduction automatique de la traduction automatique statistique à la traduction automatique neuronale (NMT) en mettant l'accent sur les modèles de séquence à séquence et les mécanismes d'attention. Il explique les défis rencontrés dans la modélisation de la traduction, l'architecture des modèles NMT, le rôle de l'attention dans NMT, et les avantages de l'utilisation de l'attention au lieu de la récurrence. La séance de cours se penche également sur les concepts de l'auto-attention, des représentations de position, des non-linéarités et du masquage dans le contexte des éléments de construction des systèmes NMT.