Réduction de dimensionnalité: Malédiction de dimensionnalité

Cette séance de cours couvre la malédiction de la dimensionnalité, ce qui implique que dans des dimensions élevées, les points de données deviennent de plus en plus isolés, nécessitant plus de données de formation. Les méthodes de sélection des variables, comme le filtrage basé sur la corrélation ou l'information mutuelle, sont discutées. Le coefficient de détermination est introduit comme mesure de la corrélation entre les valeurs prédites et les valeurs réelles. Les limites des méthodes de filtrage sont mises en évidence, en utilisant l'exemple d'explication de la sortie d'une opération exclusive OR (XOR). Dans l'ensemble, la séance de cours met l'accent sur les défis et les stratégies pour réduire la dimensionnalité dans l'apprentissage automatique.

À propos de ce résultat

Cette page est générée automatiquement et peut contenir des informations qui ne sont pas correctes, complètes, à jour ou pertinentes par rapport à votre recherche. Il en va de même pour toutes les autres pages de ce site. Veillez à vérifier les informations auprès des sources officielles de l'EPFL.

Séances de cours associées (33)

Concepts associés (32)

EE-311: Fundamentals of machine learning

Ce cours présente une vue générale des techniques d'apprentissage automatique, passant en revue les algorithmes, le formalisme théorique et les protocoles expérimentaux.

Réduction de la dimensionnalité

vignette|320x320px|Animation présentant la projection de points en deux dimensions sur les axes obtenus par analyse en composantes principales, une méthode populaire de réduction de la dimensionnalité La réduction de la dimensionnalité (ou réduction de (la) dimension) est un processus étudié en mathématiques et en informatique, qui consiste à prendre des données dans un espace de grande dimension, et à les remplacer par des données dans un espace de plus petite dimension.

Fléau de la dimension

Le fléau de la dimension ou malédiction de la dimension (curse of dimensionality) est un terme inventé par Richard Bellman en 1961 pour désigner divers phénomènes qui ont lieu lorsque l'on cherche à analyser ou organiser des données dans des espaces de grande dimension alors qu'ils n'ont pas lieu dans des espaces de dimension moindre. Plusieurs domaines sont concernés et notamment l'apprentissage automatique, la fouille de données, les bases de données, l'analyse numérique ou encore l'échantillonnage.

Pearson correlation coefficient

In statistics, the Pearson correlation coefficient (PCC) is a correlation coefficient that measures linear correlation between two sets of data. It is the ratio between the covariance of two variables and the product of their standard deviations; thus, it is essentially a normalized measurement of the covariance, such that the result always has a value between −1 and 1. As with covariance itself, the measure can only reflect a linear correlation of variables, and ignores many other types of relationships or correlations.

Corrélation (statistiques)

En probabilités et en statistique, la corrélation entre plusieurs variables aléatoires ou statistiques est une notion de liaison qui contredit leur indépendance. Cette corrélation est très souvent réduite à la corrélation linéaire entre variables quantitatives, c’est-à-dire l’ajustement d’une variable par rapport à l’autre par une relation affine obtenue par régression linéaire. Pour cela, on calcule un coefficient de corrélation linéaire, quotient de leur covariance par le produit de leurs écarts types.

Nonlinear dimensionality reduction

Nonlinear dimensionality reduction, also known as manifold learning, refers to various related techniques that aim to project high-dimensional data onto lower-dimensional latent manifolds, with the goal of either visualizing the data in the low-dimensional space, or learning the mapping (either from the high-dimensional space to the low-dimensional embedding or vice versa) itself. The techniques described below can be understood as generalizations of linear decomposition methods used for dimensionality reduction, such as singular value decomposition and principal component analysis.

Méthodes de sélection des variables : Filtrage et corrélation EE-311: Fundamentals of machine learning

Explore la sélection de variables à travers des méthodes de filtrage et de corrélation dans l'apprentissage automatique, en mettant l'accent sur la quantification de la pertinence et la mesure des relations avec l'étiquette.

PCA: Concepts clés

Couvre les concepts clés de l'analyse des composantes principales (APC) et ses applications pratiques dans la réduction de dimensionnalité des données et l'extraction des caractéristiques.

PCA: Concepts clés

Couvre les concepts clés de l'APC, y compris la réduction de la dimensionnalité des données et des fonctions d'extraction, avec des exercices pratiques.

Informations mutuelles sur les données biologiques BIO-369: Randomness and information in biological data

Explore l'information mutuelle dans les données biologiques, en mettant l'accent sur son rôle dans la quantification de la dépendance statistique et l'analyse des séquences protéiques.

Clustering de données efficace FIN-525: Financial big data

Couvre l'exploitation efficace des données grâce à des méthodes de clustering et à l'optimisation des rendements du marché à l'aide du clustering d'actifs.