65 nmthumb|Processeur XCPU Falcon gravé en 65 nm désigne le procédé de fabrication des semi-conducteurs qui succède au procédé de fabrication par CMOS. Les premiers processeurs possédant cette technologie sont apparus sur le marché en 2006. Les processeurs Xenon de la génération "Falcon" sont gravés en technologie 65 nm, ainsi que les POWER6 et les Itanium 4 cores sortis en 2008. C'est également avec cette finesse qu'étaient gravés les CPU et GPU de certains modèles de PlayStation 3.
Diélectrique high-kUn diélectrique high-κ (high-κ dielectric) est un matériau avec une constante diélectrique κ élevée (comparée à celle du dioxyde de silicium) utilisé dans la fabrication de composants semi-conducteur en remplacement de la grille habituellement en dioxyde de silicium. L'utilisation de ce type de matériau constitue l'une des stratégies de développement permettant la miniaturisation des composés en microélectronique, afin de permettre de continuer à suivre la Loi de Moore.
Operating temperatureAn operating temperature is the allowable temperature range of the local ambient environment at which an electrical or mechanical device operates. The device will operate effectively within a specified temperature range which varies based on the device function and application context, and ranges from the minimum operating temperature to the maximum operating temperature (or peak operating temperature). Outside this range of safe operating temperatures the device may fail. It is one component of reliability engineering.
Power semiconductor deviceA power semiconductor device is a semiconductor device used as a switch or rectifier in power electronics (for example in a switch-mode power supply). Such a device is also called a power device or, when used in an integrated circuit, a power IC. A power semiconductor device is usually used in "commutation mode" (i.e., it is either on or off), and therefore has a design optimized for such usage; it should usually not be used in linear operation. Linear power circuits are widespread as voltage regulators, audio amplifiers, and radio frequency amplifiers.
Jeux d'entrainement, de validation et de testEn apprentissage automatique, une tâche courante est l'étude et la construction d'algorithmes qui peuvent apprendre et faire des prédictions sur les données. De tels algorithmes fonctionnent en faisant des prédictions ou des décisions basées sur les données, en construisant un modèle mathématique à partir des données d'entrée. Ces données d'entrée utilisées pour construire le modèle sont généralement divisées en plusieurs jeux de données .
Transistorvignette|Quelques modèles de transistors. Le transistor est un composant électronique à semi-conducteur permettant de contrôler ou d'amplifier des tensions et des courants électriques. C'est le composant actif le plus important des circuits électroniques aussi bien en basse qu'en haute tension : circuits logiques (il permet, assemblé avec d'autres, d'effectuer des opérations logiques pour des programmes informatiques), amplificateur, stabilisateur de tension, modulation de signal Les transistors revêtent une importance particulière dans les circuits intégrés, ce qui rend possible la microélectronique.
Active-pixel sensorAn active-pixel sensor (APS) is an , which was invented by Peter J.W. Noble in 1968, where each pixel sensor unit cell has a photodetector (typically a pinned photodiode) and one or more active transistors. In a metal–oxide–semiconductor (MOS) active-pixel sensor, MOS field-effect transistors (MOSFETs) are used as amplifiers. There are different types of APS, including the early NMOS APS and the now much more common complementary MOS (CMOS) APS, also known as the CMOS sensor.
Statistical model validationIn statistics, model validation is the task of evaluating whether a chosen statistical model is appropriate or not. Oftentimes in statistical inference, inferences from models that appear to fit their data may be flukes, resulting in a misunderstanding by researchers of the actual relevance of their model. To combat this, model validation is used to test whether a statistical model can hold up to permutations in the data.
Système d'exploitationEn informatique, un système d'exploitation (souvent appelé OS — de l'anglais operating system — ou parfois SE — en français) est un ensemble de programmes qui dirige l'utilisation des ressources d'un ordinateur par des logiciels applicatifs. Il reçoit des demandes d'utilisation des ressources de l'ordinateur de la part des logiciels applicatifs. Le système d'exploitation gère les demandes ainsi que les ressources nécessaires évitant les interférences entre les logiciels.
Densité de courantLa densité de courant, ou densité volumique de courant, est un vecteur qui décrit le courant électrique à l'échelle locale, en tout point d'un système physique. Dans le Système international d'unités, son module s'exprime en ampères par mètre carré ( ou ). À l'échelle du système tout entier il s'agit d'un champ de vecteurs, puisque le vecteur densité de courant est défini en tout point.