Séance de cours
Cette séance de cours couvre le concept d'entropie en théorie de l'information, en commençant par des exemples de deviner des lettres en séquences et de calculer l'entropie. Il explore les origines de l'entropie en physique, l'interprétation de l'entropie dans les messages et les propriétés telles que la concavité et l'ordre total. La séance de cours se termine par des inégalités liées aux calculs de l'entropie.