Représentations Compositionnelles et Généralisation Systématique

Cette séance de cours explore les concepts de systématisation et de compositionnalité dans les langages humains et les représentations neuronales. Il traite de la relation entre la syntaxe et la sémantique, en soulignant l'importance de comprendre comment les parties contribuent à la signification d'un tout. La séance de cours se penche sur les défis des réseaux neuronaux en généralisant systématiquement, soulignant la nécessité de repères dynamiques pour évaluer les modèles avec précision. Il aborde également le rôle de l’apprentissage non supervisé dans l’apprentissage profond pour le traitement du langage naturel, en s’interrogeant sur la mesure dans laquelle les propriétés linguistiques peuvent être capturées sans supervision.