Discute de l'entropie, de la compression des données et des techniques de codage Huffman, en mettant l'accent sur leurs applications pour optimiser les longueurs de mots de code et comprendre l'entropie conditionnelle.
Couvre les mesures d'information telles que l'entropie, l'entropie articulaire et l'information mutuelle dans la théorie de l'information et le traitement des données.