Séance de cours
Cette séance de cours introduit le concept d'entropie comme un « jeu de questions » où il faut deviner une lettre choisie au hasard en posant oui ou pas de questions. À travers des exemples et des algorithmes comme Shannon-Fano, l'instructeur explique comment l'entropie mesure le nombre minimum de questions nécessaires pour deviner. La séance de cours traite également de la relation entre l'entropie et la compression des données, illustrant comment la fréquence des lettres dans une séquence influe sur la valeur de l'entropie.