Entropie sous condition: Canal Bit Flipper

Cette séance de cours aborde des sujets avancés en théorie de l'information, en calcul et en communication. Il s'inscrit dans les concepts d'entropie conditionnelle, de codage Huffman, d'entropie conjointe et de source IID. L'instructeur explique comment compresser efficacement les longues cordes en utilisant les codes Huffman et explore le théorème fondamental de compression pour les sources d'IID. La séance de cours traite également de la probabilité conditionnelle, de l'attente conditionnelle et de l'impact du conditionnement sur la réduction de l'entropie. À travers des exemples comme le canal Bit Flipper, les élèves apprennent sur les limites de l'entropie et le théorème qui conditionne réduit l'entropie.