Modèle de fondationUn modèle de fondation est un modèle d'intelligence artificielle de grande taille, entraîné sur une grande quantité de données non étiquetées (généralement par apprentissage auto-supervisé ). Le modèle résultant peut être adapté à un large éventail de tâches en aval (downstream tasks en anglais). Depuis leur introduction en 2018, les modèles de fondation ont induit une transformation majeure dans la manière de construire les systèmes d'IA. Les premiers modèles de fondation étaient de grands modèles de langage pré-entraînés, notamment BERT et GPT-3.
Rétropropagation du gradientEn intelligence artificielle, plus précisément en apprentissage automatique, la rétropropagation du gradient est une méthode pour entraîner un réseau de neurones. Elle consiste à mettre à jour les poids de chaque neurone de la dernière couche vers la première. Elle vise à corriger les erreurs selon l'importance de la contribution de chaque élément à celles-ci. Dans le cas des réseaux de neurones, les poids synaptiques qui contribuent plus à une erreur seront modifiés de manière plus importante que les poids qui provoquent une erreur marginale.
Manycore processorManycore processors are special kinds of multi-core processors designed for a high degree of parallel processing, containing numerous simpler, independent processor cores (from a few tens of cores to thousands or more). Manycore processors are used extensively in embedded computers and high-performance computing. Manycore processors are distinct from multi-core processors in being optimized from the outset for a higher degree of explicit parallelism, and for higher throughput (or lower power consumption) at the expense of latency and lower single-thread performance.
Task parallelismTask parallelism (also known as function parallelism and control parallelism) is a form of parallelization of computer code across multiple processors in parallel computing environments. Task parallelism focuses on distributing tasks—concurrently performed by processes or threads—across different processors. In contrast to data parallelism which involves running the same task on different components of data, task parallelism is distinguished by running many different tasks at the same time on the same data.
Reconnaissance de formesthumb|Reconnaissance de forme à partir de modélisation en 3D La reconnaissance de formes (ou parfois reconnaissance de motifs) est un ensemble de techniques et méthodes visant à identifier des régularités informatiques à partir de données brutes afin de prendre une décision dépendant de la catégorie attribuée à ce motif. On considère que c'est une branche de l'intelligence artificielle qui fait largement appel aux techniques d'apprentissage automatique et aux statistiques.
Big dataLe big data ( « grosses données » en anglais), les mégadonnées ou les données massives, désigne les ressources d’informations dont les caractéristiques en termes de volume, de vélocité et de variété imposent l’utilisation de technologies et de méthodes analytiques particulières pour créer de la valeur, et qui dépassent en général les capacités d'une seule et unique machine et nécessitent des traitements parallélisés. L’explosion quantitative (et souvent redondante) des données numériques permet une nouvelle approche pour analyser le monde.
Expérience naturelleUne expérience naturelle ou expérimentation naturelle est une expérience dans laquelle l'assignation aléatoire au traitement est provoquée par des causes naturelles et/ou politiques. On oppose ainsi les expériences naturelles aux expériences contrôlées dans laquelle l'assignation au traitement est aléatoirement déterminée pour les besoins de l'étude. Par exemple, David Card a utilisé l'exode de Mariel comme une expérience naturelle pour mesurer l'effet de l'immigration sur le marché du travail en Floride.
Expérience de penséeUne expérience de pensée, expérience par la pensée, expérience mentale ou expérience en imagination, est une méthode qui permet de résoudre un problème en utilisant la seule puissance de l'imagination humaine. Une expérience par la pensée peut être utilisée parce que les conditions de l'expérimentation ne sont pas réalisables ou pas souhaitables. L'expression d'expérience de pensée est la traduction de l'anglais thought experiment. Cela se dit, en allemand, Gedankenexperiment.
Weak supervisionWeak supervision, also called semi-supervised learning, is a paradigm in machine learning, the relevance and notability of which increased with the advent of large language models due to large amount of data required to train them. It is characterized by using a combination of a small amount of human-labeled data (exclusively used in more expensive and time-consuming supervised learning paradigm), followed by a large amount of unlabeled data (used exclusively in unsupervised learning paradigm).
Expérience de AschL'expérience de Asch, publiée en 1951, est une expérience du psychologue Solomon Asch qui démontre le pouvoir du conformisme sur les décisions d'un individu au sein d'un groupe. Asch invita un groupe d'étudiants (entre 7 et 9) de à participer à un prétendu test de vision auquel avaient auparavant été soumis des sujets témoins qui n'eurent aucun mal à donner toujours la bonne réponse. Tous les participants étaient complices de l'expérimentateur, sauf un.
