Couvre les modèles générateurs en mettant l'accent sur l'auto-attention et les transformateurs, en discutant des méthodes d'échantillonnage et des moyens empiriques.
Explore le concept d'entropie exprimée en bits et sa relation avec les distributions de probabilité, en se concentrant sur le gain et la perte d'informations dans divers scénarios.
Couvre les principes fondamentaux de la thermodynamique classique, y compris les conditions aux limites, l'énergie interne, l'entropie et les principes d'équilibre.
