Mesures d'information

Dans cours

Description

Cette séance de cours couvre des mesures d'information telles que l'entropie, la divergence Kullback-Leibler et l'inégalité de traitement des données. Il explique les noyaux de probabilité, les distributions gaussiennes et le concept d'information mutuelle. La séance de cours traite également des inégalités importantes et des exemples de leurs applications.

Connectez-vous pour regarder la vidéo

Enseignants (2)

Source officielle

https://mediaspace.epfl.ch/media/0_nobonifs

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Séances de cours associées (529)

Concepts associés (141)

Information mutuelle

Dans la théorie des probabilités et la théorie de l'information, l'information mutuelle de deux variables aléatoires est une quantité mesurant la dépendance statistique de ces variables. Elle se mesure souvent en bit. L'information mutuelle d'un couple de variables représente leur degré de dépendance au sens probabiliste. Ce concept de dépendance logique ne doit pas être confondu avec celui de causalité physique, bien qu'en pratique l'un implique souvent l'autre.

Inégalité sociale

Une inégalité sociale, est une différence dans l’accès à des ressources sociales rares et valorisées, ressources étant entendu au sens le plus large, incluant toutes les possibilités d'actions humaines : politique, économique, culturelle, sociale, sexuelle, etc.. Les inégalités sociales sont donc le résultat d'une distribution inégale des ressources au sein d’une société. Les inégalités sont au fondement de la stratification des sociétés humaines. En effet, l'accès inégal aux ressources socialement valorisées distribue les individus en différents groupes sociaux.

Income inequality metrics

Income inequality metrics or income distribution metrics are used by social scientists to measure the distribution of income and economic inequality among the participants in a particular economy, such as that of a specific country or of the world in general. While different theories may try to explain how income inequality comes about, income inequality metrics simply provide a system of measurement used to determine the dispersion of incomes. The concept of inequality is distinct from poverty and fairness.

Inégalités de revenu

thumb|400px|Inégalité des revenus (2013) au sein des pays, mesuré par le coefficient de Gini : 0 correspond à une égalité parfaite (toutes les personnes ont les mêmes richesses), et 1 à une inégalité totale (où une personne possèderait tout). Les pays en rouge sont plus inégalitaires que les pays en vert. Les inégalités de revenu pointent la disparité existante entre les revenus des individus « riches » et ceux des individus « pauvres ».

Entropy (classical thermodynamics)

In classical thermodynamics, entropy () is a property of a thermodynamic system that expresses the direction or outcome of spontaneous changes in the system. The term was introduced by Rudolf Clausius in the mid-19th century to explain the relationship of the internal energy that is available or unavailable for transformations in form of heat and work. Entropy predicts that certain processes are irreversible or impossible, despite not violating the conservation of energy.