Cette séance de cours explique le théorème de Shannon, indiquant que la compression d'une source ne peut pas aller au-dessous de son entropie. Il discute également de la performance des codes Shannon Fano, montrant qu'ils sont proches de l'optimum théorique. La relation entre l'entropie et le nombre moyen de questions dans un code Shannon Fano est explorée, fournissant un aperçu de la définition exacte de l'entropie.