Entropie : Théorèmes de l'entropie conditionnelle

Cette séance de cours de l'instructeur couvre les limites de l'entropie et les théorèmes conditionnels de l'entropie. Il commence par introduire le concept de l'entropie conditionnelle et ensuite se dente dans les théorèmes qui fournissent des limites sur l'entropie conditionnelle d'une variable aléatoire discrète X donnée Y. À travers des exemples comme le 'Bit Flipper Channel' et 'Lisa Rolls Two Dice', la séance de cours illustre comment vérifier et appliquer ces limites entropie. La règle de chaîne pour l'entropie est également expliquée, montrant comment l'entropie articulaire de plusieurs variables aléatoires peut être calculée. La séance de cours se termine par une explication détaillée de la règle de la chaîne pour les entropies, démontrant comment l'incertitude d'une collection de variables aléatoires peut être décomposée en incertitudes individuelles.