Mots et jetons : modèles de langage et probabilités

Cette séance de cours passe en revue les concepts clés liés aux modèles de langage dans le traitement du langage naturel, en mettant l'accent sur l'entrée des systèmes de PNL, la tokenisation et l'identification du langage. Il couvre également l'estimation des probabilités en utilisant des n-grammes et des techniques comme le lissage Laplace et le lissage Good-Turing. Linstructeur souligne limportance de choisir la meilleure séquence dans les modèles de langage et discute des défis de la comparaison des probabilités dans différents espaces.