Entropie conditionnelle: Codage Huffman

Cette séance de cours de l'instructeur couvre le concept d'entropie conditionnelle, en mettant l'accent sur le codage Huffman pour une compression efficace des données. En commençant par l'observation des arbres ternaires, la séance de cours progresse pour discuter de l'entropie commune, des codes Shannon-Fano, et de la compression des longues cordes à l'aide des codes Huffman. L'instructeur explique comment calculer l'entropie conditionnelle et l'attente conditionnelle, en utilisant des exemples comme le 'Bit Flipper Channel'. La séance de cours se termine par une discussion sur le comportement de la longueur des mots de code à mesure que le nombre de symboles augmente et la complexité de trouver des stratégies de codage optimales. Les élèves apprendront des techniques efficaces de compression des données et des compromis liés aux stratégies de codage.